SK海力士发布iHBM热管理架构:在HBM内部集成冷却元件,热阻降低30%以上

SK海力士发布iHBM热管理技术,通过将非导电硅冷却元件嵌入HBM的Die-to-Die物理层,实现热阻降低30%以上,旨在解决AI加速器中的热节流问题,并计划应用于HBM5及更高世代产品。

SK海力士(SK hynix)今日正式发布了一项名为iHBM(integrated HBM)的内存热管理技术,旨在解决高带宽内存(High-Bandwidth Memory,HBM)在AI加速器中的过热问题。该技术通过在HBM封装内部直接嵌入集成冷却元件(Integrated Cooling Elements,ICE),将热阻降低了30%以上,据SK海力士称,这能“确保在高温和高负载环境下的稳定运行特性”。iHBM计划从下一代产品(如HBM5)开始应用,以满足高性能计算和AI数据中心对热管理的严苛要求。

  • 京口令:!J6NHf5HOewRhyCM3! CZ154
  • 淘口令:88¥ MF168 h0W85DSomYr¥
SK海力士iHBM技术架构示意图
iHBM将冷却元件直接集成在HBM的Die-to-Die物理层中

iHBM的技术原理与创新

iHBM的核心是将非导电硅材质的冷却元件直接嵌入Die-to-Die物理层(Die-to-Die Physical Layer,D2D PHY)。D2D PHY是HBM的基片(base die)与AI处理器(如GPU或专用加速器)之间的高速连接接口,承担着极端数据流量压力,也因此成为高温热点区域。SK海力士将冷却元件置于这一层,直接对热源进行降温,从而避免系统因热节流(thermal throttling)而导致性能大幅下降。

传统的HBM散热方案多依赖封装外部的散热器或主动冷却手段,难以针对内部热点进行精准降温。iHBM则从封装内部入手,通过物理嵌入的方式在数据传输路径上设置导热通道,既不影响信号完整性,又能有效带走热量。SK海力士表示,该设计可使热阻降低超过30%,意味着在相同功耗下工作温度更低,或在相同温度限制下允许更高的功耗和性能释放。

应对热节流:AI系统的关键瓶颈

在AI训练和推理过程中,HBM面临着极高的带宽需求,数据持续以数百GB/s甚至TB/s的速度在内存与处理器间传输。如此高的数据吞吐量带来严重的发热问题,一旦温度越过阈值,系统便会触发热节流,主动降低时钟频率或限流,直接影响算力输出。SK海力士认为,iHBM从结构上防止热节流的发生,将使下一代HBM(如HBM5)能够堆叠更多层数,并在高负载下持续维持最高数据传输速率。

HBM的散热挑战与iHBM的市场定位

HBM技术通过垂直堆叠多个DRAM die来实现超高带宽,同时因缩短了数据路径而拥有更好的能效。为了最大限度降低延迟,HBM被放置在极其靠近GPU或AI加速器的同一封装上,通过高速硅中介层(silicon interposer)连接。然而,这种紧密的封装布局导致热密度急剧上升,散热空间极为有限。热管理一直是HBM技术发展中最棘手的难题之一,尤其随着每瓦性能要求的提升和堆叠层数的增加,问题愈发突出。

iHBM的推出正是针对这一痛点。SK海力士将其定位为一种“最优解”,结合了内存设计能力与先进封装技术。据SK海力士副总裁Lee Kang-wook(李康熙)表示:“iHBM是通过结合内存设计能力和先进封装技术开发出的最小化发热的最优解决方案。我们将积极提供AI环境下客户所需的价值,进一步巩固我们在AI内存领域的领导地位。”

从路线图来看,iHBM将从HBM5开始应用,覆盖高性能计算(HPC)、AI数据中心等超高密度、超高带宽场景。SK海力士希望通过该技术改善整个系统的稳定性和效率,满足未来AI加速器对更大内存带宽和更高堆叠层数的需求。

技术细节与竞争格局

目前SK海力士并未披露iHBM具体的制造工艺、冷却元件的材料细节以及与HBM4或HBM4e的兼容性信息。但从已知描述来看,非导电硅冷却元件的加入不会干扰D2D PHY的电信号传输,同时能通过硅材料本身的高导热性将热量引导至封装外部或连接至系统级散热方案。

在HBM市场,SK海力士与三星、美光处于激烈竞争之中。散热技术是各家争夺下一代HBM订单的关键差异化因素之一。此前SK海力士已率先量产HBM3e,并在HBM4的研发上投入巨资。iHBM的发布表明其在封装热管理领域的技术储备,有助于巩固其在与竞争对手博弈中的地位。

值得注意的是,iHBM虽然被称为“架构”,但它更偏向于一种封装级的热管理方案,而非内存本身的结构变革。SK海力士将其视为先进封装技术的一部分,未提及对HBM核心存储单元或接口标准(如JEDEC)的影响。因此,该技术有望在未来被集成到标准HBM产品中,而不改变既有的生态系统兼容性。

 

本文参考来源:Tom's Hardware



微信扫描下方的二维码阅读本文

SK海力士发布iHBM热管理架构:在HBM内部集成冷却元件,热阻降低30%以上 - AI散热, HBM5, HBM高带宽内存, iHBM, SK海力士, 先进封装, 热管理

发表回复