中国移动湖北和华为完成了中国首个运营商级AI推理加速解决方案的验证。

在MWC Shanghai 2026大会上，中国移动通信集团湖北有限公司与华为联合宣布了华为AI推理加速解决方案的成功运营网验证，这标志着这是中国运营商行业首次进行此类验证。该解决方案由华为OceanStor A800存储、Ascend A3 SuperPoD和统一缓存管理器（UCM）驱动，在长序列人工智能推理工作负载中的令牌吞吐量性能提升高达372%，为运营商高效部署AI计算服务提供了重要的技术支撑。

随着AI应用日益转向AI代理，包括代码生成和多轮对话在内的长序列场景变得越来越普遍。然而，传统的片上内存和动态随机存取内存对KV缓存命中率造成了严重限制，限制了整体性能。华为于2025年推出了统一缓存管理器来解决这一瓶颈。通过利用外部高性能存储，UCM消除了片上内存和DRAM的传统容量限制，实现了PB级别的KV缓存能力。该解决方案实现了KV缓存的全生命周期分层管理和调度，大幅扩展了单轮对话的上下文窗口。对于多轮交互，UCM重复利用历史KV缓存以消除冗余计算，以更低的成本提供优化的推理。

验证在中国移动湖北的运营网中部署了vLLM-Ascend框架，测试了从8K到190K令牌的长序列输入，涵盖MiniMax M2.5和GLM-5.1等主流模型。结果表明，随着上下文长度增加，AI推理加速解决方案的优势更加明显，有效解决了长序列推理中常见的KV缓存容量瓶颈。

中国移动湖北公司代表表示："湖北位于仅有10毫秒延迟到全国八大计算力枢纽的核心区域。此次测试验证了存算网协同的必要性。在AI代理交互和代码生成等场景中，AI推理加速解决方案可将吞吐量提升超过50%，为中国移动湖北AI服务的大规模部署奠定了坚实基础。"

华为全球数据存储营销与解决方案销售部总裁Michael Qiu表示："随着主要运营商推出令牌套餐，AI代理的大规模应用已经明确进入了新阶段。令牌消耗预期将呈指数级增长。AI推理加速解决方案不仅能够显著降低首字符延迟，还有助于大幅降低令牌成本，使运营商能够构建高效绿色的AI计算基础设施。"

此次验证成功代表了运营商AI计算基础设施协同优化的重大进展，为全球AI产业提供了可复制的技术模式。MWC Shanghai 2026将于6月24日至6月26日在上海举行。华为将在上海新国际博览中心N1馆展示其最新产品和解决方案。