量子比特 | 官方账号
近日,一则数据指出了AI领域算力需求的惊人增长:
据业内专家预估,在 4200 到 10500 台 H100 上,Sora 的训练阶段大概需要一个月的时间,而当模型生成到推理阶段,计算成本会很快超过训练阶段。
如果这种趋势持续下去,GPU 的供应可能难以满足对大型模型的持续需求。
不过,近期海外出现了一种新趋势,或将为即将到来的“算力荒”提供新的解决方案——去中心化AI。
三周前,3月23日,AI突然发布公告,宣布公司CEO埃马德辞职,埃马德本人透露了他的下一步行动,那就是追寻“去中心化AI的梦想”。
但由于无法解决去中心化网络的不确定性、不稳定性等技术难点,前一波去中心化AI浪潮难以在大模型时代真正腾飞。
直到最近,量子比特发现一个在海外创业的清华团队,专注于去中心化AI,创办了.AI。2023年发布白皮书,详细介绍了去中心化算力共享平台Power。该平台旨在解决大模型时代去中心化AI落地的痛点。
1. 让每个开发者都能负担得起 GPU
2021年9月,.AI启动了名为Power的去中心化计算平台项目。
全球存在大量闲置算力:传统数据中心闲置的算力、中小企业拥有的未充分利用的算力、个人拥有的零散的GPU,这些算力要么闲置,要么用于游戏、视频渲染。与此同时,AI算力也越来越稀缺,AI科研人员、中小企业尤其是AI创业公司、参与AI项目的传统企业,都被AI算力的高成本、高门槛所困。
因此,Power打造了去中心化的计算网络,利用核心研发技术,联通全球算力资源,为AI行业提供简单易用、价格实惠的AI算力服务。
△Power是获取算力的经济选择,为用户提供高效、实惠的计算资源解决方案。
目前,Power已收录上千款显卡,包括H100、A100、4090、3090等。
该平台的四大亮点是:
1.去中心化动态集群:在极不确定的算力上构建可靠高效的AI应用
Power平台采用基于P2P的动态分布式集群技术,结合独特的路由、聚类算法和神经网络,将数千个计算节点编织成强大的网络集群架构,专门服务于AI应用等高级需求。
当用户在Power平台上进行AI相关操作时,比如模型训练、微调或推理等,Power的去中心化网络能够在极短的时间内通过优化算法,在全球各地的计算节点之间快速分配最合适的计算资源,为用户提供服务。
同时,Power为B端用户提供动态集群策略,可秒级智能重组配置节点,提供可定制化、高扩展、高冗余的专属集群。
2. 完善的AI生态:降低算力使用门槛,拓展去中心化网络应用场景
凭借在AI领域多年的积累,动力网络除了基础的算力服务外,还将包含开源模型库、AI数据集、数据与模型加密等AI生态基础,以及模型训练、推理、部署等全方位服务,打造MaaS(Model as a)平台,赋能算力供应商与AI应用方。
对于科研人员、AI领域中小企业、传统企业的AI+项目来说,Power的MaaS平台将大幅降低使用算力的门槛,这对于不具备专业AI开发能力的中小企业和传统企业来说尤为重要。
对于传统算力提供商来说,Power网络可以触达更多的用户,同时借助Power的MaaS平台,可以拓展应用场景,获得更高的收益。这样一来,Power网络还可以将传统的中小型中心化算力纳入到去中心化算力网络中,从而大大扩大网络规模。
3.异步训练算法——解决网络瓶颈,挖掘闲置算力潜力
在当前的机器学习领域,特别是大型语言模型的训练中,通常需要采用GPU专用的连接线路或者高带宽的内部网络来实现GPU间的同步分布式训练,这不可避免地增加了训练的门槛和成本。
Power通过自研的模型分割、数据异步技术,突破了分布式训练中网速、带宽的障碍,即使分布在地球不同角落的训练节点,也能同步参与到庞大的模型训练工作中。
4.模型加密与数据隔离——解决去中心化网络的安全问题
Power提供独特的模型加密技术,保障去中心化志愿计算场景下用户AI模型和数据的安全。所有网络通讯均经过加密,保证数据传输的安全;通过数据隔离和模型拆分,确保去中心化网络中任何一个节点都无法获得完整的数据和模型,大大提高安全性。
2. 又有清华支持的团队在海外创业多年
.AI核心团队来自清华大学,在AI领域深造10余年。
公司创始人兼CEO邹凯2010年毕业于清华大学基础科学专业数学、物理学专业,2013年获得美国乔治城大学数学与统计学硕士学位。
他是一位连续创业者,领导了非营利组织 AGI,也是一位天使投资人,投资了 .ai、Auto Edge、Qdot 和 Orbit 等多家人工智能初创公司。
值得一提的是,邹凯与研究员Jason Wei共同发表的论文《EDA:用于文本任务的简易数据挖掘》已被引用超过2000次。邹凯和他的团队坚信,他们搭建的平台应该为真正从事学术研究的学者和推动AI发展的企业工程师提供资源。
该公司CTO于2016年获得乔治华盛顿大学计算机科学硕士学位,在加入.AI之前曾担任微软高级团队负责人,在Web3、区块链技术、分布式系统、云计算、Azure和AWS方面拥有丰富经验,在边缘计算、全栈开发和机器学习方面拥有专业技能。
3. 终极理想:让人工智能走进千家万户
去中心化人工智能愿景的背后,是普遍享有技术的理想。
回顾IT技术发展史,去中心化的思想往往在计算资源越来越中心化的时代涌现,作为自下而上的力量对抗试图垄断所有资源的巨头,从而迎来新一轮技术包容的浪潮,让新技术真正普及到世界的每个角落。
如今的大模型市场也许正处于这样的时刻。
放眼大模型市场,经过一年的蓬勃发展,真正能够站稳脚跟的创业公司并不多。除了少数几家明星独角兽,大模型的未来似乎正在汇聚在微软、谷歌、 等科技巨头手中。长远来看,少数几家公司或将对计算资源的定价、可用性、使用权形成垄断控制。
这时候,就需要像Power这样的民主化叙事,为AGI的故事书写新的蓝图。
目前,双方已在学术、商业等领域展开合作。
在学术方面,Power目前已与多所国内外顶尖大学开展合作,包括剑桥大学、牛津大学、卡内基梅隆大学、西北大学、清华大学、华中科技大学、莱斯大学、复旦大学、上海交通大学等,均为计算机科学领域的顶尖大学。
在业务方面,Power为企业提供基于去中心化网络的AI计算解决方案,让企业专注于模型开发和产品创新。越来越多的企业借助Power加速推出创新型AI产品,例如近期在北美势头迅猛的文胜视频Team.ai,其模型训练和推理就与Power平台深度融合。
未来,Power将逐步成长为一个去中心化的AI社区,加速全球AI创新。
机器学习从业者、学术研究人员、AI应用端的公司都可以在Power平台上找到自己需要的算力和模型,也可以将自己训练好的模型托管在平台上,甚至可以提供给平台上的其他用户并收取一定的费用。
用户不仅可以调用平台上相应的算力来解决自己的训练需求,还可以把自己训练好的模型通过平台提供给更多有需要的人或公司,层层传递。
如果将时间线拉长,要真正实现AGI,AI的普及化和民主化是必然前提。如今,已经率先行动起来的.AI,正在做出自己的贡献,并寻找更多的合作伙伴,向民主化的AGI时代迈出坚实的一步。