中信证券:看好超节点服务器整机环节 建议关注产业链相关公司

智通财经
Yesterday

智通财经APP获悉,中信证券发布研报称,预计超节点方案有望快速上量,作为未来底层AI基础设施的基本计算单元,超节点scale up域具备高效通信带宽、原生内存语义等优势,天然适配当前主流的MoE架构模型的计算。超节点在系统层面的“反解耦”使得整体系统价值得以提升,本身设计也面临更多挑战,多芯片功耗、散热、机柜可靠性等诸多挑战亟待解决,同时也要考虑到系统运行中所面临的困难,中信证券认为超节点有望通过更高的技术附加带来整机环节价值量的提升。中信证券看好超节点服务器整机环节的未来发展,建议关注产业链相关公司。

中信证券主要观点如下:

MoE架构模型对硬件提出新要求,Scale up超节点应运而生。

在Scaling law的发展背景下,主流AI大模型为追求更大参数规模与更高运行效率,普遍采用MoE(混合专家)架构。得益于专家网络的独特结构,其天然适配专家并行的计算模式——这种方式虽能有效优化计算与访存瓶颈,却随之引入了新的通信难题,基于Scale up网络的超节点由此应运而生。相较于传统八卡服务器,超节点面临更为复杂的系统性挑战:一是海量芯片协同工作带来的系统散热压力;二是多芯片间光、铜混合互连方案引发的稳定性问题;三是多零部件长期运行下的可靠性隐患。这类问题往往需要服务器厂商与上游各环节厂商深度协同,方能探索全局最优解决方案,这也使得整机环节在产业链中的话语权显著提升。

海内外超节点百家争鸣,国产超节点在部分技术领域实现超越。

海外超节点以英伟达NVL72为主要解决方案,此外Google Ironwood Rack采用Google自研TPUv7芯片,最大支持9216颗芯片集群扩展。国内近期超节点如华为CloudMatrix384、阿里磐久、曙光ScaleX640等解决方案悉数亮相。我们认为当前是各家超节点解决方案的早期发展阶段,超节点作为未来底层AI基础设施的基础单元,将从百家争鸣的技术方案逐步收敛到有限的方向之中。

算力密度方面,Scale up的规模当前尚未有清晰结论,更大规模的Scale up域在模型训练及推理上有望带来性能收益,但结合成本与可靠性等方面因素,该话题仍需依赖技术发展而给出答案。

网络拓扑方面,当前胖树架构、3D-Torus等拓扑各具优势与劣势,我们认为胖树结构在通用性的角度或将在短期占据更高的市场份额,具备软硬件自研能力的大厂有望尝试3D-Torus等方案带来的便利。

物理连接方面,我们认为无背板正交在连接简洁性、机柜紧凑性等方面具备优势,或将成为未来超节点的主流技术方案。

散热方面,随着单机柜算力密度的逐步提升,PUE更接近1的液冷散热方案或将迎来更大发展机会,如相变浸没液冷等方案若能解决其稳定性等方面问题或将得到更大规模应用。

超节点“反解耦”带来系统价值提升,技术附加值进一步显现。

过去以八卡形态为主的AI服务器,产业链分工清晰、各环节工艺成熟稳定,服务器厂商核心承担标准化零部件的组装整合工作,即可高效完成产品交付,技术门槛相对集中于单一部件层面。而超节点服务器的技术复杂度实现了质的跃升:多芯片协同带来的功耗管控、高密度集成下的散热难题、整机柜级的长期可靠性保障等,均是前所未有的系统性挑战。这使得服务器厂商不再是简单的“组装者”,而是AI算力产业中核心的“系统整合者”——超节点本质是一体化计算系统,从设计之初就需要深度考量芯片、散热、互连等多部件的耦合关系,通过跨环节技术协同破解全局难题。这种系统性、一体化的设计与整合需求,大幅提升了超节点服务器的技术门槛,也让整机环节在产业链中的话语权进一步强化,成为把握技术方向与系统性能的核心枢纽,我们认为其技术附加值有望逐步显现。

风险因素:

算力芯片扰动供应链风险;芯片产能供给不足的风险;互联网大厂资本开支不及预期的风险;相关产业政策不及预期的风险;AI应用发展不及预期的风险;芯片技术迭代不及预期的风险;国产GPU厂商竞争加剧的风险等。

投资策略:

超节点技术方兴未艾,MoE架构料将成为大模型主流架构,其架构的特殊性对硬件发展提出新的适应性要求,Scale up超节点有望通过高效的网络通信以及原生内存语义带来更加优秀的解决方案。我们预计超节点有望成为未来AI基础设施的底层计算单元。当前时点,海内外超节点方案百家争鸣,尽管在网络拓扑、通信协议等方面存在差异,但我们认为算力密度提升、散热能力提升、稳定性和可靠性等方面具备发展的高确定性,而相关技术为服务器整机的生产制造带来新的要求,具备定制化开发能力以及供应链管理能力的服务器厂商有望获得更大发展机会。建议关注产业链相关公司。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10