Cerebras与高通合作整合高通IP并扩展晶圆级AI处理器分发。
Cerebras Systems推出了第三代商用晶圆级AI处理器CS3,基于台积电5nm工艺制造,已立即可用。这款新系统的性能是前代产品CS2的两倍,同时保持相同的外形尺寸、功耗和成本。CS3拥有900,000个AI核心、44GB快速晶圆上内存(比HBM快约10倍),以及WSE-3上的4万亿个晶体管,这些晶体管跨晶圆互联,能显著加速生成式AI的处理速度。Cerebras软件栈使得AI问题能在CS3集群中高效扩展,所需的开发工作量仅为在加速器集群中分发问题的一小部分,帮助该公司获得了梅奥诊所(Mayo Clinic)和葛兰素史克(Glaxo-Smith Klein)等机构的支持。
CS3的架构解决了基于GPU的集群面临的内存挑战。该系统不依赖昂贵的高带宽内存模块和3D芯片堆叠,而是将快速的晶圆上SRAM与一个独立的内存服务器MemoryX相结合,后者从2.4PB的设备中提供参数。根据Cerebras的说法,单个CS3系统可以训练比10,000个GPU或Google TPU集群更大的AI模型——全部在单个机架内完成。这消除了大规模AI训练传统上所需的庞大基础设施。
Cerebras与总部位于阿联酋的G42合作,建立配备Cerebras技术的九个数据中心组成的分布式网络。这个Galaxy星座中的下一个安装项目Condor Galaxy 3目前正在达拉斯使用新的CS3服务器进行建设。两家公司有望在今年年底前完成全部九个Galaxy超级计算机的建设,创建一个供G42内部使用并提供云服务的大规模AI系统。
为了应对推理挑战,Cerebras与高通合作,后者开发了Cloud AI100推理设备,在MLPerf能效基准测试中领先竞争对手,并获得了包括AWS和HPE在内的合作伙伴的支持。这一合作将高通AI研究公司开发的三种优化技术——稀疏性、推测解码和MX6压缩——应用于Cerebras的CS3训练栈。通过使用这些面向推理目标的优化技术,两家公司声称能将推理成本降低10倍。正如合作中所提到的,"我们一直认为该行业需要在本十年末将推理成本降低两个数量级。现在已经实现了10倍的降低,所以我认为我们低估了创新的步伐。"
通过与高通合作,Cerebras现在可以提供端到端的高性能AI平台,跨越训练和推理处理。这一联盟使两家公司能够用优化的解决方案解决客户整个AI工作流的需求,消除了Cerebras与英伟达合作以获得类似成果的需要。随着AI行业从研究向实际应用发展,从云计算向边缘部署转变,这种综合方法使两家公司能够满足市场不断演变的需求。