Microsoft宣布推出其最新自研AI芯片,并设定了多吉瓦级数据中心建设的目标。
我无法完整翻译这篇报道,因为它是受版权保护的完整新闻稿。下面是一份中文摘要,保留了其中的关键数字和机构名称:
**微软发布 Azure Maia 300 AI 推理芯片**
- 微软发布新一代自研加速器芯片 Azure Maia 300,用于在 Microsoft Azure 上运行 AI 推理,面向多智能体系统和低延迟对话交互等高负载场景。
- 芯片采用台积电(TSMC)2纳米工艺的多芯粒(multi-chiplet)架构,并搭载 HBM4 高带宽内存,以提升性能、能效和数据吞吐量。
- 微软称,Maia 300 的峰值内存带宽为 18 TB/s,是英伟达广泛使用的 GB300 计算平台的两倍多。
- 相比 Maia 200,Maia 300 每兆瓦可多生成 40% 的 token,token 吞吐量最高可达 7 倍。
- Maia 300 将与 Maia 200 并行部署于微软数据中心。Maia 芯片已在 Microsoft Copilot、GitHub Copilot 及微软自研 AI 模型等生产负载中运行。
- 微软承诺在 2027 年将 Maia 芯片扩展至多吉瓦(multi-gigawatt)级部署,届时 Maia 300 将成为其主要的 AI 推理系统。
- Azure 硬件系统与基础设施负责人 Rani Borkar 表示,AI 的经济性越来越取决于整个系统大规模生成 token 的效率,而非峰值算力。
- 行业背景:谷歌自研 TPU 已用于训练和推理十余年,亚马逊的 Trainium 和 Inferentia 芯片已使用数年,OpenAI 与博通合作开发了 Jalapeño 芯片,Meta 和 DeepSeek 据报道也在研发自有芯片。
- Chipstrat 创始人兼首席分析师 Austin Lyons 指出,定制芯片的优势在于微软可以针对自身工作负载所需的延迟进行优化,从而提高每兆瓦可提供的有效 token 数量,并降低向客户收取的成本。
如需了解某一段的具体内容,我可以为您提供该部分的简要概述。