2026年11月15日星期日
AI 基础设施 · 新闻与分析
首页 › 数据中心 › 报道
数据中心 · 报道

AI 推理工作负载已成为 NAND 闪存需求的最大驱动力,首次超过智能手机消耗,因数据中心存储需求激增。

对数据中心 NAND 的需求转向表明存储基础设施投资持续增长,成为 AI 系统建设的一部分,对晶圆厂产能分配和存储供应商策略有重要影响。
行业媒体Slicast · 2026年9月30日 UTC 13:26 · 美国 · 来源: finance.biggo.com
重要度 60

AI推理正在从根本上重塑NAND闪存行业的需求结构。2026年,数据中心占据了全球NAND需求的约45%,首次超越智能手机成为最大的终端市场。Kioxia预计到2031年数据中心NAND需求将达到1,686 EB,其中AI推理驱动的需求增速是AI训练的五倍。根本驱动力是KV缓存卸载:长上下文推理生成大量"工作内存",这首次使NAND成为中间计算存储的必需品——SanDisk称之为"Token电池"。SanDisk预测AI数据中心NAND出货量到2030年将达到1.2 ZB,其中Staging、KV缓存卸载和快速数据湖工作负载分别占40%、35%和25%。与此同时,NAND制造商正在开发高带宽闪存(HBF),以弥补HBM与传统SSD之间的差距。SanDisk和SK海力士已经结成标准联盟并建立了试点生产线,目标是在2027年实现量产。

AI繁荣正在改写NAND闪存行业的基础经济学。曾经被视为陷入过度供应和价格崩溃循环中的商品,NAND如今首次成为计算必需品——是计算路径本身的关键组件——这是由AI推理工作负载的爆炸性增长驱动的。2026年,数据中心在历史上首次超越智能手机,成为NAND需求的最大份额占有者。

Kioxia的预测说明了规模之大:数据中心NAND需求总量将从2025年的286 EB增长到2031年的1,686 EB,年复合增长率为34%。在这一增长中,AI推理驱动的需求增速是AI训练需求的五倍,成为这一NAND超级周期背后的主导力量。

**需求结构的根本转变**

在AI时代之前,NAND行业增长主要依靠智能手机、PC和消费类电子产品的单设备容量增加,加上硬盘驱动器逐步被固态硬盘取代——一种稳定且可预测的模式。繁荣-萧条周期主要源于产能盲目扩张和突然的供应萎缩。NAND制造商只能寄希望于"比竞争对手损失更少",技术领先很少能转化为定价权。

2026年成为一个拐点。数据中心的NAND需求份额从2025年的约30%跃升至约45%,而同期智能手机的份额收缩至约23%。需求驱动力已从对价格敏感的消费类电子产品根本性转向基于总体拥有成本(TCO)和投资计算回报率(ROI)做决策的云服务提供商。

云服务提供商的采购逻辑已经转变:从"本季度NAND价格够低吗?"转变为"我们能否按时获得充足的高性能企业级SSD,以确保我们的GPU基础设施在未来三年内保持正常运行?"这种从短期价格优化向长期供应保证的转变为NAND制造商建立新的长期商业模式奠定了基础。

**KV缓存卸载:NAND作为"Token电池"**

AI推理时代最深刻的转变是NAND存储"中间计算产品"的新角色。长上下文推理生成大量的KV缓存——不再是从外部源导入的静态数据,而是GPU在耗费大量计算资源后产生的"工作内存"。一旦丢失,重新生成需要昂贵的GPU计算和电力。

SanDisk用一个恰当的类比抓住了这一点:固态硬盘已经演变成"Token电池"——Token代表已完成的计算工作。与其丢弃它们并重新计算,将其"充电"到存储中的成本远低得多。KV缓存存储归根结底是为云服务提供商节省计算和电力成本。

三个条件使这种转变可行。首先,HBM容量扩展跟不上KV缓存增长的步伐。模型上下文长度每年翻倍或更多——从2020年GPT-3的2K token发展到2026年的百万token上下文,六年增长了500倍。Nvidia的Rubin NVL72机架是这一约束的典范:其约15.4 TB的汇聚HBM最多只能在满容量下支持193到230个并发的百万token会话,这对云服务提供商来说意味着极低的计算变现效率。

其次,成本差异巨大。HBM4成本约为每GB 16美元,而企业级SSD仅需约0.30-0.40美元每GB——相差40-50倍。在HBM中保留"温或冷KV缓存"数小时而不被访问代表严重的资源误配。

第三,延迟挑战已通过工程方法克服。GPU直接存储(GDS)技术绕过CPU和DRAM,在企业级SSD和GPU内存之间建立直接通道。已发表的验证表明,GDS与压缩结合可以将KV缓存恢复延迟提高10倍,使卸载在商业上可行。

Nvidia建立了新的分层内存架构:G1 HBM→G2系统DRAM→G3本地SSD→G4共享网络存储,由NVIDIA Dynamo在软件层进行协调。Rubin平台添加了ICMS/CMX上下文存储层,定义为G3.5层,每个层的容量约为16 TB——是单个GPU上288 GB HBM的近60倍。

KV缓存卸载的经济学取决于缓存命中率。根据Manus团队的披露,来自缓存命中的token成本大约是缓存未命中的十分之一。典型的大型模型命中率范围为40%到70%,而多步Agent场景可在一段时间内维持95%以上,解锁"一次写入、千次读取"的红利。

**三大核心工作负载的劳动分工**

SanDisk估计AI数据中心NAND出货量到2030年将达到1.2 ZB,约为2026年水平的三倍。三大核心工作负载具有清晰界定的角色:

| 工作负载类型 | AI数据中心NAND需求份额 | 主要NAND类型 | 核心特征 |

|---|---|---|---|

| Staging层 | 40% | 高性能TLC和pSLC | 靠近GPU的高强度I/O缓冲;最重的写入负载 |

| KV缓存卸载层 | 35% | TLC/QLC分层 | 推理时代全新的增量需求;作为动态存储吸收HBM溢出 |

| 快速数据湖 | 25% | 高容量QLC | 远程集中数据存储库;读取主导 |

*数据来源:SanDisk对2030年AI数据中心NAND需求的分类预测。*

按NAND类型划分,TLC占66%,QLC占34%。Staging层由于写入强度必然排除QLC,TLC稳居基础地位;QLC专注于数据湖和温或冷KV缓存卸载。两类工作负载出现分化:数据湖趋向"更便宜",而Staging和热路径趋向"更快更耐用"。

pSLC的兴起值得特别关注。它涉及将TLC或QLC晶粒用作SLC,牺牲约三分之二的有效容量,以换取超过10倍的耐用性和更低的写入延迟。核心驱动力是RAG(检索增强生成)和Agent搜索中的高频向量检索——AI agents以极细粒度、密集并发方式访问数据,同时进行读写操作,这迅速耗尽标准TLC的耐用性。达到等效的有效容量需要pSLC晶圆产出增加3到4倍,对NAND供应造成额外压力。

**HBF:NAND制造商的"向上突破"**

在传统的AI存储层级中,HBM和NVMe SSD之间存在严重的延迟和带宽差距。NAND制造商如今正在推动高带宽闪存(HBF),这是一种新产品类别,其架构本质上复制HBM:多层堆叠、硅穿孔(TSV)和与XPU的共封装——只是NAND晶粒取代了DRAM晶粒。

SanDisk正在开发的HBF采用16层NAND堆叠,在保持HBM级带宽的同时容量增加八倍。根据披露,计划在2026年末到2027年初推出的HBF Gen1将提供高达512 GB每个堆栈,而16层HBM4仅为48 GB。根据行业研究,每GB定价可能仅为HBM的五分之一到十分之一。读取带宽可达1.6 TB/s,约为HBM4最大规格带宽的55%。

但是,HBF的局限性同样明显。NAND固有的高延迟(约1-10微秒,而DRAM约0.1微秒)、写入缓慢、基于块的读取和有限的编程/擦除耐用性——它永远无法取代HBM。它仅适合需要不频繁读写的数据,如完整的模型参数、压缩上下文缓存和休眠的MoE专家参数。

目前只有SanDisk和SK海力士两家实质性的HBF倡导者。这两家公司已结成标准联盟并建立了试点生产线,目标是在2027年实现量产。

阅读原文
AI 推理工作负载已成为 NAND… · Slicast