华为推出OceanStor M900上下文内存存储系统，用于在超大规模数据中心加速AI推理工作负载。

华为推出了OceanStor M900上下文内存存储系统，该系统旨在通过突破片上内存和DRAM容量瓶颈，加速超大规模数据中心中的AI推理。该产品为SuperPod提供PB级KV缓存，并提供具有PB级容量和TB/s级性能的完全共享内存空间。

该产品发布由华为副董事长兼轮值董事长David Wang在华为Connect 2026大会期间以"推进代理世界，夯实硅基础"为主题的主旨演讲中宣布。这一发布反映了AI基础设施行业从以计算为中心的模式向计算、网络和存储系统深度协作的更广泛转变。

随着大型模型扩展至10万亿参数，SuperPod已成为AI部署的最优基础设施选择。主流模型现已支持超过一百万令牌的上下文窗口，多轮推理和复杂任务成为常态。由此产生的KV缓存数据生成已将片上内存和DRAM推向容量和成本效益的极限，形成了关于构建多层存储系统的共识，该系统将片上内存、DRAM和SSD协调为一个完全共享的内存空间。

OceanStor M900采用三项关键技术来应对这些挑战。高速UnifiedBus互联网络实现PB规模全局多层KV缓存池，支持单跳连接，将容量从片上内存和DRAM扩展至SSD。单个集群提供64PB容量，将每个NPU可用的KV缓存从千兆字节提升至太字节，并显著提升KV缓存命中率。

该系统采用集成架构，融合CPU、网络控制单元和NAND控制单元，提供原生KV语义并实现SuperPod NPU与SSD之间的单跳连接。这消除了协议转换和CPU转发，将访问延迟从毫秒级降低至60微秒——下降90%。单个集群提供40TB/s的聚合访问带宽，比竞争方案高1.5倍。在典型AI场景中，该架构使推理集群令牌吞吐量翻倍，首令牌延迟减半。

OceanStor M900搭载业界首创的KV感知自适应存储技术，该技术基于数据价值预测KV缓存生命周期，智能地将数据分布在各存储媒体中。该技术支持每日24次驱动器写入(DWPD)，将SSD耐用性延长16倍，确保三年稳定运行。通过减少媒体更换和运维成本，降低长期AI推理基础设施支出，加快技术采用。