蚂蚁集团通过部署中国制造半导体芯片,将AI推理成本降低20%
蚂蚁集团由阿里巴巴联合创始人马云支持,通过整合国产半导体,在人工智能模型训练中实现了重大突破,成功将计算成本降低20%。据彭博社报道,这家杭州企业使用来自阿里巴巴和华为的国产芯片,采用专家混合(MoE)方法训练模型,这种方法能够以大幅降低的计算资源实现模型训练。
通过在MoE训练中结合中美两国制造的半导体,蚂蚁集团降低了计算成本,同时减少了对英伟达等单一芯片供应商的依赖。知悉该项目的知情人士在匿名条件下表示,该公司取得的成果与使用英伟达H800芯片所获成果相当。
这一转变反映了蚂蚁集团在美中企业AI竞赛加剧背景下的战略调整。虽然仍在使用英伟达芯片,但蚂蚁集团在其最新模型中越来越多地依赖替代性半导体,展示了中国开发者如何在不完全依赖美国供应商的情况下构建先进AI。鉴于H800目前受到美国出口管制的限制,旨在阻止中国获得AI发展所需的尖端硬件,这一点尤为重要。
蚂蚁集团最近发布研究成果称,其模型在内部基准测试中有时超越Meta的模型。该公司还表示其训练策略可以降低推理成本——即提供实时AI服务的费用——使先进功能更易获得。如果得到验证,蚂蚁集团的成本高效技术可能代表中国AI发展的一个重要里程碑。
蚂蚁集团并非独自推进这一努力。中国初创企业DeepSeek今年早些时候发布了R1模型,增强了功能强大的AI模型可以以更低成本进行训练这一论证的势头。蚂蚁集团还开源了其Ling系列模型——Ling-Lite和Ling-Plus——进一步促进了整个地区的AI开发。
MoE已成为AI训练中的首选方法,通过将任务分解为更小的数据集来优化性能和效率。蚂蚁集团的成本意识方法可以通过降低开发者对高端、高性能芯片的依赖来扩大AI的可及性。
然而,英伟达首席执行官黄仁勋在该公司最近举办的GTC大会上提出了相反的观点,辩称寻求收入最大化的企业需要更强大的芯片而非更便宜的芯片——将性能而非价格定位为AI基础设施的未来。