全球首款12层堆叠HBM3E,开始量产了

半导体产业纵横
Sep 26, 2024

本文由半导体产业纵横(ID: I CVI EWS)综合

SK海力士宣布,已开始量产12H HBM3E芯片,实现了现有HBM产品中最大的36GB容量。

今日,韩国SK海力士宣布,已开始量产全球首款12层HBM3E产品,容量为36GB,这是迄今为止现有HBM的最大容量。

SK海力士声称,12层HBM3E产品在速度、容量和稳定性方面均达到全球最高标准。该公司计划在年内向客户提供量产产品。

受此消息影响,SK海力士股价周四在韩股市场上大涨。

SK海力士率先实现12层HBM量产

今年3月,SK海力士向客户交付8层HBM3E产品,创下业界首位。时隔6个月后,SK海力士再次业界首个实现12层HBM3E芯片量产,再次证明其技术优势。

SK海力士是自2013年推出世界首款HBM以来,开发并供应从第一代(HBM1)到第五代(HBM3E)全部HBM系列的唯一企业。

如今,SK海力士实现在业界率先量产12层HBM3E后,将满足人工智能企业日益增长的需求,并继续保持其在人工智能存储器市场的领先地位。

SK海力士总裁 Justin Kim表示:“SK海力士再次突破了AI内存领域的技术限制,展示了我们在AI内存领域的行业领先地位…为了克服人工智能时代的挑战,我们将稳步准备下一代内存产品,继续保持全球第一的地位。”

速度、容量、稳定性均达最高标准

据该公司介绍,12层HBM3E产品在速度、容量、稳定性等人工智能存储器所必需的所有领域都符合世界最高标准。

SK海力士将内存运行速度提高到9.6 Gbps,这是目前可用的最高内存速度。如果大型语言模型Llama 3 70b由单个搭载4个HBM3E产品的GPU驱动,每秒可读取总计700亿个参数35次。

SK海力士的12层产品和此前同等厚度的8层产品相比,容量增加了50%。为了实现这一目标,该公司将每个DRAM芯片比以前薄40%,并使用TSV技术垂直堆叠。

该公司还通过应用其核心技术Advanced MR-MUF工艺,解决了由于将更薄的芯片堆叠得更高而产生的结构问题。这使得新一代产品散热性能比上一代产品高10%,并通过增强翘曲控制来确保产品的稳定性和可靠性。

三星进展如何?

HBM(高带宽存储器)是GPU的关键组件,有助于处理复杂应用程序产生的大量数据,芯片垂直堆叠技术可以在节省空间的同时降低功耗。

目前,HBM的主要制造商只有三个——SK海力士、美光科技三星电子。其中,三星电子于今年2月首次推出了HBM3E 12H。

三星HBM3E 12H支持全天候最高带宽达1280GB/s,产品容量也达到了36GB。相比三星8层堆叠的HBM3 8H,HBM3E 12H在带宽和容量上大幅提升超过50%。

“当前行业的人工智能服务供应商越来越需要更高容量的HBM,而我们的新产品HBM3E 12H正是为了满足这种需求而设计的,” 三星电子存储器产品企划团队执行副总裁 Yongcheol Bae 表示,“这一新的存储解决方案是我们研发多层堆叠HBM核心技术以及在人工智能时代为高容量HBM市场提供技术领导力而努力的一部分。”

HBM3E 12H采用了先进的热压非导电薄膜(TC NCF)技术,使得12层和8层堆叠产品的高度保持一致,以满足当前HBM封装的要求。因为行业正在寻找缓解薄片带来的芯片弯曲问题,这项技术将在更高的堆叠中带来更多益处。三星一直在努力降低其非导电薄膜(NCF)材料的厚度,并实现芯片之间的间隙最小化至7微米(µm),同时消除了层与层之间的空隙。这些努力使其HBM3E 12H产品的垂直密度比其HBM3 8H产品提高了20%以上。

三星先进的热压非导电薄膜(TC NCF)技术还通过允许在芯片之间使用不同尺寸的凸块(bump)改善HBM的热性能。在芯片键合(chip bonding)过程中,较小凸块用于信号传输区域,而较大凸块则放置在需要散热的区域。这种方法有助于提高产品的良率。

随着人工智能应用的指数级增长,HBM3E 12H有望成为未来系统的优选解决方案,满足系统对更大存储的需求。凭借超高性能和超大容量,HBM3E 12H将帮助客户更加灵活地管理资源,同时降低数据中心的总体拥有成本(TCO)。相比HBM3 8H,HBM3E 12H搭载于人工智能应用后,预计人工智能训练平均速度可提升34%,同时推理服务用户数量也可增加超过11.5倍。

关于量产进度,三星表示已开始向客户提供HBM3E 12H样品,预计于今年下半年开始大规模量产。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10