Scale up 互连技术成为超节点方案的升级方向。Scale-out 是传统AI 数据中心的主流架构,随着大模型规模的快速提升,Scale-out 架构出现瓶颈:1)带宽与延迟瓶颈;2)能效较低;3)系统复杂度高。因此,行业逐步转向Scale-up架构,即在单节点内或紧密耦合节点增加GPU/CPU/存储等资源的数量,并通过PCIe、NVLink 等高速互连技术实现高带宽、低时延、高能效。超节点...
网页链接Scale up 互连技术成为超节点方案的升级方向。Scale-out 是传统AI 数据中心的主流架构,随着大模型规模的快速提升,Scale-out 架构出现瓶颈:1)带宽与延迟瓶颈;2)能效较低;3)系统复杂度高。因此,行业逐步转向Scale-up架构,即在单节点内或紧密耦合节点增加GPU/CPU/存储等资源的数量,并通过PCIe、NVLink 等高速互连技术实现高带宽、低时延、高能效。超节点...
网页链接免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。