广发基金李耀柱:超节点是万亿参数大模型时代的必然趋势,系统级优化蕴含投资机会

新浪基金
Yesterday

专题:AI投资峰会-AI基建时代的确定性机会

  9月16日,由新浪财经主办的AI投资峰会在北京举行,主题为“AI基建时代的确定性机会”,广发基金权益投资总监、国际业务部总经理李耀柱出席并参与圆桌讨论。

  李耀柱认为,超节点是伴随着下游大模型从千亿向万亿参数演进的一个必然发展趋势,其核心驱动力来自模型架构本身的变化。

  超节点的系统集成角色涉及多个层面

  对于超节点对AI基建的影响究竟是什么、谁有机会成为这一轮超节点的新赢家,李耀柱表示:“首先为什么我们要讲超节点?最核心的原因是因为模型架构的变化。现在用的是混合专家架构,有N个专家在不同的芯片上面落地。所以这里面就涉及到专家之间通信问题,特别是在进行架构推进过程中,可以看到,国内我们同时有海外的卡,有国产的卡,不同卡之间HBM不一样、算力不一样。同时,我们用MOE架构在进行推进过程中,单卡算力虽然非常强,但是它的瓶颈在通信、在存储。所以在这个过程中,超节点在里面起到的作用是,怎么样有效地通过系统化的方式去解决整体这个卡在训练端或者在推理端效率的问题。所以它更像是一个系统集成的角色。”

  他指出,这个过程中不单单是光通信,包括液冷,包括电力调度,都有一定的影响。“比如说从通信角度上看,一个51.2T总容量总带宽的架构下面,可以配64个800G端口,也可以配128个400G端口,到最后用什么样的方式实现,跟MOE架构有非常大的关系。”

  “到底是用更多的通道去实现芯片之间的通信,还是通过更大的单带宽芯片、更小的通道去实现,这个跟最后模型落地的形式有比较大的关系。在这个过程中,通信协议、软件调度就形成了非常重要的角色。”

  光通信、软件调度与架构设计的价值量提升

  李耀柱认为,在整个价值链提升方面,光通信、软件调度、还有架构设计,特别是拓扑学架构设计上,都有比较大的价值量的提升。“这个在国内,在我们硬件和先进制程受到制约的情况下,通过我们的软实力,把软件工程师的优势发挥出来。”

  “除了整体价值量提升外,整个系统集上面的优化,哪怕是在一个小层面上的优化都有可能对整个系统带来比较大的影响。特别是在agent时代,涉及到调度频率更高的,所以系统细微的优化可能会带来更大的效率提升。从我们自己角度来看,上述都是比较大的未来投资机会和重点关注的方向。”

  国内系统复杂程度高于海外,液冷电力互联等值得重视关注

  国内超节点建设火热推进的同时,海外超大规模云厂商和新云企业也在加大AI基础设施资本开支。对于它们在建设模式、融资方式、资源调度和投资回报要求上有何不同,国内智算基建可从中借鉴什么。

  李耀柱表示,海外新云客户主要是两大AI厂商,因为他们主要目在于集中交付,所以在这个过程中他们会采用更多的融资方式,包括债券融资、股权融资等。“这个跟CSP厂不一样,CSP厂更看重公司内部的回报率,不单单是通过自己的现金流支持Capex,还包括新的融资方式,例如可转债等等,这些都是比较重要的融资方式。同时,新云跟CSP还有一点不同,CSP除了集中购买算力构建自己的系统以外,还有自有芯片设计。这些是新云跟CSP一些不同的点。”

  “现在一个比较大的变化是开源模型占比在提升,CSP用开源模型的比例在持续提升。在海外,因为本身它的算力成本更低,我们开源模型本身token的成本也更低,所以带来的一个结果是开源模型比例提升之后,在agent时代,我们看到了在落地的过程中更多的算力,比如一些服务器公司等等。都是因为agent时代爆发,所以它的落地会显得跟原来新云集中交付给两大AI公司不同,这个是海外跟国内非常大的不同。”

  李耀柱指出,国产的卡和海外的卡本身需求就不一样,国内的新云更多的是因为他们有海外的卡,所以形成了自己的生态圈,并集中交付给客户。“但事实上,在系统架构集成上面,其实跟海外是非常大的不一样的。同时,因为国内的卡跟海外的卡的兼容,我们买海外卡的比例是受限的,所以我们不可能像海外一样,完全不计成本地在设计过程中以海外卡的方式进行设计。我们肯定也要兼容国内的卡。”

  “同时,因为国内卡迭代速度也在持续提升,所以涉及过程中我们也需要考虑未来系统级的解决方案。例如在电源端,在液冷端,到底要留多少冗余,因为本身国内卡单卡算力是比较低的,但它需要更多的互联。所以在系统上面我就要做提前量的布局。此外,海外卡跟国内卡的配比也是可能发生变化的。所以在整个过程中需要更长远去考虑有没有一些解决方案,特别是在液冷解决方案上,同时可以实现国内卡和海外卡的兼容。”

  “这个其实就是给我们国内的一个非常重要的启示。我觉得在现在这个情况下,国内实现一个系统的复杂程度其实比海外要更高,这个过程对投资而言有望产生机会,特别像液冷电力系统互联等等这些,都是值得我们重视关注的。”

  未来三年:关注中长期紧缺环节,警惕短期紧缺领域的估值风险

  对于未来三年AI基础设施产业链中最确定的增长方向,以及最需要警惕的泡沫方向,李耀柱表示:“我觉得整体而言机会是持续性的,包括存储、光、液冷等等。今年有一个很明显的特征就是大家对短期非常紧缺的一些供应链环节给了一个比较高的股票估值溢价。”

  “对短期紧缺,但中长期不缺要谨慎。短期怎么定义呢?短期可能是一年,中长期可能是两到三年。也就是说,我们重点看在2028年有比较多的产能释放的这些领域,接下来如果面临需求不足,还需要去审慎评估。”

  “从我们自己的角度看,中长期紧缺的这些领域向上概率比较大。但是短期紧缺、中长期不缺的领域则需要谨慎对待,可能面临估值下降的风险。”

MACD金叉信号形成,这些股涨势不错!
新浪声明:此消息系转载自新浪合作媒体,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10