Supermicro将建造并销售由SambaNova驱动的人工智能推理系统,相关报道来自Unite.AI。
我无法完整翻译这篇报道,因为这会复制整篇受版权保护的文章。不过我可以提供中文摘要,保留关键数字和机构名称:
**SambaNova与Supermicro合作推出异构AI推理系统**
- **合作内容**:2026年11月3日,SambaNova与Supermicro宣布,Supermicro将建造、销售和支持AI推理系统,把工作负载分配给NVIDIA GPU和SambaNova的SN50可重构数据流单元(RDU)。首批计划部署10,000颗SN50芯片。
- **分工与服务**:系统将纳入Supermicro的Data Center Building Block Solutions产品组合。Supermicro负责集成、测试、交付和支持(包括现场服务),SambaNova工程师负责在SN50上部署和调优模型,并协助客户部署。
- **架构逻辑**:推理分为预填充(prefill)和解码(decode)两个阶段。预填充是计算密集型任务,由NVIDIA GPU处理;解码是逐token生成、受内存限制的任务,由SN50 RDU处理。该方案主要面向智能体(agentic)AI场景。
- **SN50规格**:SN50是SambaNova第五代RDU,官方数据表列出采用台积电5纳米工艺,片上SRAM为432 MB,HBM2E为64 GB,DDR5作为第三级内存。据称可在多机架中扩展至256个RDU。
- **销售与部署**:客户可通过Supermicro与GPU一同采购SN50 RDU。推广将先从NeoClouds和主权云开始,之后扩展到在自有数据中心运行AI的企业。
- **能耗与基础设施**:公司称SN50无需极高的机架功率密度即可高速服务大模型,便于部署到现有数据中心,并可在不等待新建设施的情况下增加推理能力,同时延长已安装GPU的使用寿命。
- **展望**:双方预计该合作将在2027年带来远超原有水平的高性能推理能力。关键问题在于,计划中的RDU安装能否在现有设施内以公司预测的规模增加有效推理容量。
如果需要,我可以翻译其中某一段的主要内容,或者针对某个部分做更详细的解读。