阿里巴巴发布Zhenwu V900加速器以支持其Qwen人工智能模型系列,标志阿里巴巴在定制芯片领域的扩展以支持内部模型训练。
阿里巴巴正在从两端推进其下一步AI计划。9月22日,在杭州举办的阿里云栖大会上,CEO张勇发布了一款新型加速器,用于模型训练和推理,同时公布了通义千问模型的路线图,该模型最终可能达到10万亿参数规模。
公司宣布其下一代模型通义千问4正在训练中,并规划了即将推出的通义千问4.5和通义千问5系列,预计将扩展到5万亿至10万亿参数。
硬件采用的是由阿里巴巴平头哥芯片公司开发的阿含芯片V900。V900的性能是其前代产品阿含M890的三倍,搭载216GB GPU内存和1200GB/s的芯片间带宽。
模型路线图的规划跨度更远。通义千问4目前正在训练,而通义千问4.5和通义千问5预计将扩展至5万亿至10万亿参数范围——约为公司当前旗舰产品通义千问3.8-Max的2.4万亿参数的四倍。
V900被设计为统一的训练和推理处理器,而非仅针对AI开发某一阶段的芯片。其对FP8和FP4精度的支持提高了不同工作负载的效率,该加速器可以组合成包含多达50万块芯片的超级节点集群。配套的服务器设计将V900与阿里巴巴的ICN交换机、盘麦SmartNIC和真颜存储控制器相结合。
训练和部署拥有数万亿参数的模型需要数千台处理器高效通信,同时需要足够的内存、网络和存储为这些处理器提供数据。V900旨在降低推理成本,同时提高计算密度,无缝处理高精度模型训练和超低精度推理。
阿里巴巴尚未公布通义千问4的正式发布日期、定价或性能基准。5万亿至10万亿参数的目标适用于通义千问4.5和通义千问5,而非通义千问4本身。参数数量衡量的是模型规模而非智能程度——较大的模型根据其架构、训练数据、优化方法和推理效率的不同,在特定任务上仍可能表现欠佳。
阿里巴巴集团CEO张勇在致股东信中写道:"大量AI智能体正准备在数字经济中承担越来越大的工作份额,每个智能体都由模型生成的tokens驱动。智能体将日益成为人类与数字世界之间的主要接口。"
阿里云目标在2032年前将其运营的全球数据中心产能扩展至超过20吉瓦。公司同时公布了2027年的倚天720和倚天730服务器CPU路线图,将其内部硬件工作范围拓展至AI加速器以外。
张勇表示:"通过我们的全栈AI战略,我们将阿里巴巴置于更有利的位置,以抓住人工智能和AI计算需求的重大增长机遇。"
这一战略反映了中国AI公司面临的约束。华为在9月17日的大会上加速了其下一代昇腾芯片路线图,而美国限制措施已限制了中国公司获取英伟达部分最先进处理器的途径。对阿里巴巴而言,更多地内部构建堆栈可以减少其AI计划依赖外部供应商的环节数量。这并不能消除中国半导体产业面临的制造约束,但它给予公司更多控制其可在国内部署的硬件和基础设施的权限。
阿里巴巴更重要的赌注是,其自研芯片、通义千问模型和云基础设施能够被设计得足够高效地协同工作,以支持越来越大的AI系统。如果成功,公司将获得对其AI栈的经济性和可用性更多的控制权。
但这仍然未被验证。V900直到2027年第一季度才进入商业发布,通义千问4仍在训练中,而5万亿至10万亿参数的目标属于未来的模型代次。制造产能、芯片实际性能和这些模型最终的质量将决定该战略是否成功。阿里巴巴已经阐明了其方向:与其构建一款国内版英伟达替代品,公司正试图构建足够多的芯片、模型和基础设施堆栈本身,使其AI野心对从中国以外获得什么的依赖程度更低。