8月31日，隨着AI智能體和萬億參數工作負載日益成為主流，AI基礎設施的性能不僅取決於計算能力，還取決於計算、內存、存儲、網絡和軟件如何作為統一系統進行協同設計。為幫助超大規模企業和 AI 創新者構建新一代半定製AI基礎架構，NVIDIA推出NVIDIA NVHBM技術，進一步擴展了NVIDIA NVLink Fusion技術方案。

NVHBM是一種新一代高帶寬內存技術，可為XPU提供更高的內存性能和效率。該技術將由領先的內存合作伙伴完成驗證並提供，從而讓這種先進的內存能力惠及NVLink Fusion客戶。通過將內存控制器集成到3D HBM堆棧，而不是集成在XPU上，與標準HBM4E相比，NVHBM可實現高達30%的內存帶寬提升，將HBM功耗降低15%，並為XPU計算die釋放多達25%的面積。