Marvell推出第二代CXL内存扩展器,最高支持9TB DDR4内存

华尔街见闻
9 hours ago

Marvell正通过更大容量、更高带宽的内存扩展方案,瞄准AI推理基础设施升级带来的需求增长。

据彭博报道,10月12日,Marvell正式发布第二代Structera X 3406和3506 CXL内存扩展器。公司称,这是业界首款六通道CXL 3.2内存扩展器,单控制器最高支持9TB DDR4或6TB DDR5内存,内存通道数量较上一代增加50%。两款产品预计于2027年第一季度开始向客户提供样品。

此次发布旨在应对AI推理工作负载日益突出的内存瓶颈。随着大型语言模型(LLM)规模扩大、上下文窗口延长以及KV缓存需求快速增长,传统服务器架构的内存容量与带宽正面临更大压力,内存逐渐成为制约AI性能和基础设施效率的关键因素。

AMD、Arm、阿里巴巴、三星和SK海力士等企业均对新产品及相关生态合作表示支持。

核心技术升级:更多通道,更大容量

Structera X 3406和3506在上一代产品基础上实现了内存通道、扩展容量及压缩性能等方面的升级。

在内存配置方面,两款产品均支持六通道内存。其中,3406支持18个DDR4 RDIMM插槽,最高容量达9TB;3506支持12个DDR5 RDIMM插槽,最高容量为6TB。在主机互联方面,两款产品均支持最多四台主机共享内存资源,主机互联带宽最高可达256GB/s,采用PCIe 6.0 x16接口。

在压缩性能方面,新产品内置LZ4压缩引擎,压缩和解压缩吞吐量最高达250GB/s,较上一代提升5倍,可将有效内存容量扩大至原来的2至3倍。

Marvell表示,在大型语言模型推理场景中,新产品可在相同上下文长度下,将首字节响应时间(TTFT)缩短40%至50%;在深度学习推荐模型(DLRM)场景中,单控制器每秒查询量最高可提升至原来的2倍,嵌入表有效容量则可扩大至原来的2至3倍。

瞄准超大规模数据中心,生态合作持续扩展

Marvell表示,第二代Structera X沿用已向超大规模数据中心客户出货的第一代2404/2504产品的软件栈和生态集成方案,旨在加快新产品的客户导入进程。

多家行业伙伴公开表达了支持。AMD企业副总裁Raghu Nambiar表示,双方的合作依托EPYC处理器的性能与可扩展性,帮助企业在AI和数据密集型应用需求增长的背景下扩展内存容量、提高资源利用效率。

Arm云端AI go-to-market副总裁Eddie Ramirez表示,Structera X将CXL 3.2、内存扩展和压缩能力引入Arm生态,为超大规模数据中心高效运行复杂AI工作负载提供更多选择。

三星电子内存产品规划副总裁Jangseok Choi和SK海力士下一代产品规划与使能负责人Uksong Kang则表示,双方已分别与Marvell完成Structera产品与各自DDR内存的验证。

完善CXL产品组合,布局内存池化与分解架构

Marvell客制化云端解决方案执行副总裁兼总经理Will Chu表示,公司是业内唯一提供完整端到端CXL产品组合的供应商,产品覆盖多个层级:用于内存扩展的Structera X、用于近内存加速的Structera A,以及面向机柜级CXL内存共享的PFMA(Photonic Fabric™ Memory Appliance),覆盖从直连内存扩展到内存池化与分解的不同应用场景。

市场研究机构Objective Analysis总经理Jim Handy指出,CXL正逐步应用于AI系统,其高带宽、大容量特性有望带来显著收益。他还表示,在内存供应紧张、价格高企的背景下,IT管理者正考虑利用CXL在DDR5系统中复用DDR4内存模组,以降低成本;具备内存压缩功能的控制器则有望进一步增强这类方案的吸引力。

Structera X 3406和3506将于10月12日至15日在加州圣何塞举行的OCP全球峰会上亮相,正式样品预计于2027年第一季度推出。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10