AIGC 在全球快速发展的当下,诸多项目深陷 GPU 运力不足,速度放缓、任务宕机、项目崩溃等困境,作为瞄准 AI 理念和 DePIN 赛道的 Solana 生态项目新星 io.net 来说,如何集成项目控制与云计算服务成为抢占市场的重要发力方向。第 11 期 TinTinAMA 与你共同对话 io.net 的 GPU 网络部署策略。
5 月 23 日 20:00 第 11 期 TinTinAMA 活动顺利举行,直播邀请了 io.net 亚太负责人 Asa、io.net 产品经理 Bill 来到活动直播间,深度剖析 io.net 在生成人工智能浪潮下的算力解决方案,化解当前 GPU 网络的运行困境。本次线上活动共吸引了 2W+名观众的参与,不少观众还在直播间与嘉宾们近距离交流互动。
错过直播的小伙伴们可点击回放:
?️ Twitter Space:
https://twitter.com/i/spaces/1nAJEadPbZRJLAI + DePIN + Solana,io.net 的算力逻辑
从 2023 年开始,生成人工智能(AIGC)的火爆浪潮兴起,整个 AI 开发者社区面临 GPU 数量短缺问题。GPU 的市场需求量巨大,但面临着供需不一的现实问题。为此,io.net 通过把不同数据中心和服务商进行集中整合利用,对 GPU 进行平台整合,让大家实现对 GPU 的高效利用,缓解 GPU 的短缺现象。
作为一个同时具备 AI + DePIN + Solana 的概念项目,io.net 基于 Solana 去中心化 AI 算力平台,致力于为 AI 和ML 公司提供从模型训练到推理的 GPU 资源整合,提供低成本、高效率的云计算服务。该平台可以从独立数据中心、加密货币矿工和 Filecoin 或 Render 等加密项目实现对 GPU 整合来获取算力,为目标企业提供更具成本效益的云计算服务。
据嘉宾介绍和官网信息资料显示,Ignition 奖励计划第二季也正在进行中,代币 IO 合约地址已被公布;截至发稿时,io.net 网络拥有超过 6000 个 A/H100 高端人工智能 GPU 以及总和超过 12W 个经过真实性验证的 GPU 和 CPU。2024 年2月,io.net完成了由 Hack VC、Solana Labs、ArkStream、Animoca Brands、OKX Ventures 等知名投资方参投的 3000 万美元 A 轮融资,为项目初期快速发展带来了雄厚的资金基础。
探秘 io.net 的技术运行架构
进一步剖析 io.net 的产品构成逻辑,在去中心化 GPU 底层网络、可编程计算层 IO 引擎的支持下,主要通过三个产品部分连接用户和算力提供者,包括 IO Cloud、IO Worker、IO Explorer:
IO Cloud:部署和管理去中心化 GPU 集群,与 IO-SDK 无缝集成,提供扩展人工智能和 Python 应用程序的技术解决方案
IO Worker:为用户提供实时计算跟踪,连接网络设备操作和鸟瞰图,随时随地监控设备并执行快速操作
IO Explorer:为用户提供全面的统计数据和 GPU 云可视图,轻松即时监控、分析和了解 io.net 网络复杂细节,提供网络活动、重要统计数据、数据奖励等全面可见性
IO Cloud 与 IO Worker 协作化解挑战
“对于 IO Cloud 和 IO Worker 来说,很大的挑战性是如何在不同网络的情境下,把 GPU 数据之间的关联性进行完美结合,可能需要从一个国家的 GPU 池中找出满足开发需求的 GPU 数量。但是这些 GPU 在不同的网络情境下,有些是公有 IP、有些是私有 IP,那么借助网络技术和数据中心把这些 GPU 放到同一个网络情境下,实现稳定的数据交互并保障稳定性就是充满挑战性的问题”,Bill 谈道。
为了更好地解决 IO Cloud 和 IO Worker 面临的技术挑战,Bill 介绍说,“一方面,io.net 通过 Docker 容器和一些虚拟手段来保证技术执行过程中的技术环境,实现技术环境与主机之间的分割,确保技术执行进程不会脱离相应的容器环境;另一方面,通过非技术加密经济学手段,比如惩罚性措施,让每个节点运营者参与一定程度的质押,从中避免一些恶意操纵行为。”
巧借 Ray 技术堆栈,支持大量并发任务
io.net 除了在化解技术挑战上表现出技术优越性,还在处理并发任务中巧妙实现节点交互。目前,io.net 处理大量并发任务所基于的技术堆栈平台是 Ray,只要不是上千万级的节点运行任务,都可以实现稳定体量的任务生成,并持续部署到各类网络节点中;如果参与并发任务的交互程度特别高,那么可能会对网络运行带来一定影响,需要生成人工智能模型的训练和微调,在自主功能节点上不会有更多数据实时交互。
友好合作关系,io.net 锚定算力代币化
面对与其他去中心化计算网络的潜在竞争关系,Asa 认为 io.net 与 Render 和 Filecoin 都是友好的合作伙伴。“事实上,对于同处 DePIN 赛道的项目来说,我们都希望能够和大家达成紧密的合作关系,这些优秀的前辈也能够让 io.net 在数据稳定性、可扩展性等不同维度找到更多探索发展的空间,真正赋能 AI+DePIN 赛道的可持续未来。”此外,Asa 补充指出 io.net 与 Render 和 Filecoin 也不完全是一种竞争关系概念,彼此之间仍然有一些产品差异,Render 主要以渲染为主,Filecoin 以数据存储为主,因此在这个过程中,io.net 与他们的合作中也有“各取所需”的部分。
谈及长期的经济模型可持续发展问题,Asa 认为 io.net 和其他依靠区块发放奖励的生态不同,“我们有需求侧这边非常强大的 BD 商务团队去带来 Web2 和 Web3 的 AI 用户对于 GPU 的需求,当需求侧的现金供应量大于供给侧的输出,就不需要靠代币进行输血赚钱。” 对于 io.net 来说,还有一个中长期发力的经济路线规划叫做算力代币化,将普通用户持有成本很高的专业级算力封装成可以持有的区块链凭证,用户在参与购买和持有的过程中分享算力投入到 AI 生产中的现金流收益,成为用户将来的战略资产;为此,io.net 未来会提供算力代币化的官方支持渠道,通过降低购买和拥有算力门槛,让更多投资者参与到与现实世界的交易。
敞开生态创新怀抱,与开发者同行
目前,io.net 生态还处在发展早期阶段,预计将在下个月进行 TGE(代币生成事件),这之后会有更多生态系统基金和 Grant 生成,为与 Solana 等更多合作伙伴推出 Hackathon 做准备,充分支持 io.net 的发展。
作为 AI 技术栈的最底层,io.net 需要更多项目在生态上开展创新实验,比如更多的算力支持项目愿意加入,那么可以推出更多存储、隐私等中间件,还有聊天机器人、AI 代理等创新应用,增加 io 生态使用量,进行更多产品迭代和优化升级,助力去中心化发展。面对未来的 Web3 技术发展趋势,对于 io.net 来说,最具前瞻性的布局就是集群化运作,在运算需求越来越紧缺的情况下,更快速、更高效地利用 GPU 节点效率,完成产品战略部署和规划,才能够打好 AI 算力价格战。
朝着打造“GPU 互联网”的终极发展目标,我们有理由相信 io.net 在 AIGC 发展浪潮中找到化解运算短缺困境的优越路径,在不远的将来成长为全球最大的人工智能计算平台!