AI时代需要什么样的存储?

格隆汇
Dec 05

本报告为AI存储系列报告第一篇,从“AI时代需要什么样的存储”进行阐述分析和展望,供相关产业投资人参考。中信证券认为,AI时代显存带宽和容量升级为核心,存算一体是趋势,近存计算高景气,看好投资机遇。其中,HBM有望成为云端训推的标准化主流显存方案;在美国对华制裁加码背景下,国内存储厂商加速突破追赶,相关产业链配套具备重要投资机会。此外,CUBE有望在推理/端侧成为“打破AI存储墙”的弯道超车补充路径,通过定制化+先进封装获得突破性带宽,并以封装技术弥补制程短板,是当前国内满足AI存力需求的优选方案,也是未来本土存算一体实现弯道超车的重点观察方向,为真正意义上的存算一体奠定基础。

AI时代大模型需要海量参数反复快速存取/运算,“算力”“存力”需求双升。

“存力升级”须紧随追赶“算力升级”步伐。主要体现在DRAM带宽及存储容量;随模型降本,下游应用场景、token使用量、用户数呈现强劲增长,带来存力增长需求。AI产品中存储架构分三级:各级存储均量价齐增,二级存储XPU旁新增显存DRAM。以AI服务器为例,1)一级存储(SRAM)单机容量随计算芯片数量提升;2)二级非易失存储(DRAM),传统DRAM容量2~3倍增长,同时显存DRAM为核心增量,对容量/带宽要求高,高带宽需求HBM(High Bandwidth Memory,高带宽存储)配合GPU而生,为当前云端主流方案;3)三级非易失存储(NAND/HDD),当前以容量提升为主,长期看基于NAND的HBF(High Bandwidth Flash,高带宽闪存)架构创新。其中,二级变化最大,所以本篇报告重点分析AI时代需要什么样的显存DRAM。

不同场景的显存升级侧重:训练侧容量带宽需求全面提升,推理侧带宽需求突出。

1)终端推理:访存密集型,升级核心是显存带宽(=生成速度×模型大小),当前百tokens每秒生成速度下,带宽需求达到TB/s级,普通DDR5/LPDDR5带宽差距约10倍;显存容量需求较低,约为模型参数容量的1.2倍;低功耗要求很高。产品选择上,目前行业的新产品正处探索阶段,趋势为先进封装赋能产品走向小型化与定制化;中长期存储大厂或推出带宽优化的标准品。

2)云端推理:访存密集型,多用户并发下访存瓶颈加剧,显存带宽、容量要求均急剧增长,带宽需求提升倍数更大,为核心升级需求。m个用户并发,适当采用批处理,则云端推理带宽需求是端侧推理的m倍,容量提升倍数低于带宽,功耗要求较端侧宽松。产品选择上,HBM为主,GDDR/CUBE 2.0等为补充,PD分离趋势下非HBM显存方案渗透率或有提升。

3)训练端:计算密集型,算力升级为核心诉求,显存容量带宽需要全面提升,显存容量是基础要求,需要匹配升级;显存带宽是重要辅助,有助于提升算力利用率,共同提升性能表现。显存容量需求高于16倍参数量(理论值),带宽需求TB级。产品选择上,HBM为主流。

AI时代需要的存储升级,“存算一体”是远期必然趋势,“近存计算”是当前有效路径。

分析当前计算的内存架构,DRAM性能(“带宽”和“容量”)是最大瓶颈,训练端模型越大显存容量需求越高,推理端并发用户越多带宽需求越强(训练更卡“容量”,推理更卡“带宽”),升级需求迫切。研究显存升级的未来技术路线,中信证券判断HBM方案(高带宽存储器)有望成为云端训推标准化主流显存方案,CUBE方案(存储+算力叠层)有望成为推理/端侧“打破AI存储墙”的弯道超车补充方案。HBM方案在英伟达主导的方案和存储大厂主导的国际标准下继续演进,中信证券预计未来仍将成为、尤其是成为云端显存升级的主流方案,美国对华制裁加码背景下,国内存储厂商努力突破加速追赶,相关产业链配套投资机遇值得关注;CUBE方案则以其定制化带来的灵活性和封装工艺创新带来的突破性带宽优势,从推理和端侧AI计算场景渗透(受叠层层数限制容量不足,训练场景需多芯片并联),以定制化的存储+算力(晶圆/芯片)叠层方案为基础,利用先进封装工艺弥补制造制程短板,是当下国内打破AI存储墙、满足AI存力需求的最优解,也是未来国内存算方案实现弯道超车的重点观测方向,为未来真正意义的存算一体打下坚实基础。

风险因素:

宏观经济恢复进度不及预期的风险;云厂商资本支出不及预期的风险;AI应用落地速度不及预期的风险;企业核心技术、产品研发进展不及预期的风险;行业竞争加剧的风险。

投资策略:

AI时代显存带宽和容量升级为核心,存算一体是趋势,近存计算高景气,看好投资机遇。围绕国内HBM及CUBE相关产业链,中信证券重点推荐四个方向:

1)存储方案厂商:CUBE必要配套,定制设计方案助力产业化,并以此进军高端市场,重点关注有存储原厂支持、具有先发优势的龙头。此外关注布局超薄LPDDR堆叠方案的公司。

2)半导体设备:产业配套,受益先进封测需求升级,配合工艺优化及良率提升,加快供应链国产化;受益先进封测升级+国产化,重点关注刻蚀、键合、减薄设备。

3)先进封装:高端存储核心突破口,设备可获得性高,中国大陆厂商先进封装能力居于行业前列并扩充产能;其中Hybrid bonding键合是CUBE 2.0核心;此外HBM产业链先进封装厂商配套提供CoWoS。

4)逻辑芯片公司:近存计算客户,自身竞争力提升+推动产业化加速;部分设计公司积极布局3D结构逻辑芯片,当前以端侧SoC/NPU为主,云端推理卡逐步布局,近存计算有望逻辑芯片公司提升产品性能表现,获得竞争优势,并受益AI增量需求,建议关注布局领先的设计公司。

同时,AI需求带动下,中信证券认为存储仍处于超级景气周期初期,目前来看,未来半年缺货可见度高,涨价幅度在26Q1末之前有望维持/扩大。预计行业供不应求至少持续至2026年底,中信证券乐观看待本轮结构性周期景气的持续性。建议重点关注企业级存储进展快、涨价受益逻辑强的公司;利基型存储开启涨价;企业级SSD/内存配套芯片设计公司有望间接受益。

注:本文节选自中信证券研究部已于2025年12月4日发布的《电子行业存储专题系列报告1—AI时代需要什么样的存储?》报告,分析师:徐涛S1010517080003;胡叶倩雯S1010517100004;夏胤磊S1010521080005;程子盈S1010523030002

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10