Meta计划在2027年上半年部署其自研MTIA 450 AI推理芯片到数据中心。
Meta计划在2027年上半年在其数据中心部署MTIA 450定制AI芯片,根据彭博社报道。该处理器旨在降低运行AI模型所需的成本和能源消耗。这款芯片是Meta的第三代产品,也称为Arke,目前正在进行测试。下一代MTIA 500(代号Astrid)的设计工作预计在约一个月内完成,更广泛的部署目标为2027年底。
MTIA 450主要针对生成式AI推理工作负载进行优化,包括从文本提示生成图像和视频。该处理器还可支持推荐系统和有限的训练任务,但并非为大型语言模型训练而设计。根据Meta三月份的技术文档,MTIA 450的MX4 FLOPS性能是FP16/BF16操作的六倍。其混合低精度架构旨在最大化吞吐量,同时最小化软件转换开销并维持模型保真度。
MTIA 500相比MTIA 450将提供约50%更高的高带宽内存吞吐量,以及80%增加的HBM容量和43%额外的MX4 FLOPS。该设计集成了四个较小的计算芯粒、HBM堆栈、网络芯粒和片上系统组件。
Meta已实现了芯片代次间六个月的开发周期。MTIA 400、450和500架构共享兼容的机箱、机架和网络基础设施,使Meta能够在相同的物理占用空间内部署连续的处理器。"任何芯片公司或团队每六个月发布一款新芯片都是不寻常的。这是非常快的速度,"Meta工程副总裁Yee Jiun Song在三月表示。Song将这一速度归因于Meta快速的产能扩张和资本支出,这使得当前一代硅芯片在每个部署点都具有价值。
Meta与博通合作开发MTIA,由台湾积电负责生产芯片。定制芯片为Meta提供了对性价比的更大控制,并减少了对有限外部供应商的依赖。"这还为我们提供了更多硅供应的多样性,在一定程度上保护我们免受价格变化影响,"Song说。
MTIA处理器将与外部加速器一起运行。Meta已获得涵盖数百万台英伟达GPU和长期部署6千兆瓦级AMD GPU的协议。Song强调,快速演变的工作负载需要维持多个硬件选项。后代MTIA芯片数量的增加将加大Meta对受限HBM供应的依赖。Song承认对HBM供应"绝对担忧",但表示有信心Meta已为计划的扩张确保了充足的内存。
Meta的芯片路线图伴随其在路易斯安那州Hyperion园区扩展到5千兆瓦的计划,以及与贝莱德达成的140亿美元合作协议,在德克萨斯州埃尔帕索建设一个1千兆瓦的园区。Meta已在其生产系统中部署了数十万台MTIA处理器。