
作者:电子创新网张国斌
HBM(High Bandwidth Memory,高带宽存储器)是一种高性能的3D堆叠DRAM(动态随机存取存储器)技术,主要用于满足高性能计算、图形处理、人工智能和数据中心等领域的高带宽内存需求。 HBM将多个DRAM芯片垂直堆叠在一起,通过TSV技术实现芯片之间的电气连接。TSV技术允许信号直接穿过硅片,从而减少了信号传输路径的长度,提高了信号传输速度。HBM广泛应用于高端图形处理芯片(如NVIDIA的A100 GPU),用于加速图形渲染和深度学习任务。 自2013年首次推出后,HBM快速发展,根据市场研究机构的预测,HBM市场规模正在快速增长。2023年,HBM市场规模约为10亿美元,预计到2028年将达到30亿美元,年复合增长率(CAGR)约为25%。SK海力士(SK Hynix)和三星(Samsung)是HBM的主要供应商,分别占据了约60%和40%的市场份额。 HBM未来发展如何? 近日,韩国领先的国家研究机构 KAIST 发布了一份长达 371 页的论文,详细介绍了到 2038 年高带宽存储器 (HBM) 技术的演变,展示了带宽、容量、I/O 宽度和散热性能的提升。该路线图涵盖了从 HBM4 到 HBM8 的技术发展,涵盖了封装、3D 堆叠、以内存为中心的嵌入式 NAND 存储架构,甚至还有基于机器学习的功耗控制方法。
(图片来源:KAIST)
文档显示,HBM4 的单栈 HBM 容量将从 288 GB 增加到 348 GB,HBM8 的容量将从 5,120 GB 增加到 6,144 GB。此外,功耗也将随着性能的提升而提升,从 HBM4 的单栈 75W 增加到 HBM8 的 180W。
预计 2026 年至 2038 年间,内存带宽将从 2 TB/s 增长到 64 TB/s,数据传输速率将从 8 GT/s 提升到 32 GT/s。每个 HBM 封装的 I/O 宽度也将从目前 HBM3E 的 1,024 位接口增加到 HBM4 的 2,048 位,之后将一路提升到 HBM4 的 16,384 位。
(图片来源:KAIST)
大家已经对 HBM4 有了大致的了解,并且知道 HBM4E 将增加基础芯片的可定制性,使其更适合特定应用(AI、HPC、网络等)。
预计 HBM5 将继续保留这些功能,它还将部署堆叠式去耦电容和 3D 缓存。新的内存标准带来了性能的提升,因此预计将于 2029 年问世的 HBM5 将保留 HBM4 的数据速率,但预计 I/O 数量将翻倍至 4,096,从而将带宽提升至 4 TB/s,单堆栈容量提升至 80 GB。
预计每堆栈功率将增至 100 W,这将需要更先进的冷却方法。值得注意的是,韩国科学技术研究院 (KAIST) 预计 HBM5 将继续使用微凸块技术 (MR-MUF),尽管据报道业界已在考虑与 HBM4 直接键合。此外,HBM5 还将在基片上集成 L3 缓存、LPDDR 和 CXL 接口,并配备热监控功能。韩国科学技术研究院还预计,随着 HBM5 的出现,AI 工具将在优化物理布局和降低抖动方面发挥作用。
(图片来源:韩国科学技术研究院)
预计 HBM6 将在 2032 年占据主导地位,传输速度将提升至 16 GT/s,单堆栈带宽将提升至 8 TB/s。预计单堆栈容量将达到 120 GB,功率将攀升至 120 W。韩国科学技术研究院的研究人员认为,HBM6 将采用无凸块直接键合技术,并结合硅和玻璃的混合中介层。架构变化包括多塔式内存堆栈、内部网络交换以及广泛的硅通孔 (TSV) 分布。AI 设计工具的应用范围进一步扩展,并融合了信号和功耗建模的生成方法。
HBM7 和 HBM8 将更上一层楼,HBM8 的单堆栈速度将达到 32 GT/s 和 64 TB/s。预计容量将扩展到 240 GB。据信封装将采用全 3D 堆叠和带有嵌入式流体通道的双面中介层。
虽然 HBM7 和 HBM8 仍将正式属于高带宽内存解决方案系列,但预计其架构将与我们目前所知的 HBM 截然不同。HBM5 将添加 L3 缓存和 LPDDR 内存接口,而这几代产品预计将集成 NAND 接口,从而能够以最低限度的 CPU、GPU 或 ASIC 参与度实现数据从存储器到 HBM 的移动。这将以功耗为代价,预计每个堆栈的功耗为 180W。据韩国科学技术研究院 (KAIST) 称,AI 代理将实时管理散热、功耗和信号路径的协同优化。
(图片来源:韩国科学技术研究院)
不过以上技术路线只是一种规划跟未来实际产品还有区别的。
中国在HBM(高带宽存储器)领域虽然起步较晚,但是技术发展和市场规模正在迅速增长,根据摩根士丹利2025年5月的报告,中国在HBM3技术发展上目前落后全球领先者3-4年。然而,中国在DRAM技术上的进步显著,长鑫存储(CXMT)的DRAM技术差距已从5年缩短至3年。
主要参与者的进展:
长鑫存储:2025年上半年已向客户发送HBM2E样品,计划2026年上半年大规模生产。此外,长鑫存储计划2025年底前向客户发送HBM3样品,2026年实现大规模生产。
武汉新芯:启动了专注于开发和制造HBM的项目,利用其晶栈®Xtacking晶圆级三维集成技术平台。
长电科技:展示了其XDFOI高密度扇出封装解决方案,专为HBM设计。
通富微电:从第三方采购DRAM芯片和基础芯片,进行HBM2堆栈的组装和测试。
2023年中国HBM市场规模约为25.3亿元。预计到2027年,中国HBM市场规模将显著增长,随着技术进步和市场需求的增加,中国在全球HBM市场的份额将逐步提升。