您现在所在位置: 半岛·综合体育(中国)官方网站 > 半岛综合体育新闻中心 > 行业动态

公司资讯

Company information

行业动态

Industry dynamics

常见问题

Common Problem

半岛·体育中国官方网站平台登陆电子行业HBM:AI的内存瓶颈高壁垒高增速(附下载)

发布日期:2024-03-13 05:58 浏览次数:

  半岛综合体育,海力士、三星、美光正加大研发投入和资本开支,大力扩产 并快速迭代HBM,预计2024年HBM3e 24GB/36GB版本将量产/发布,内存性能进一步提高。HBM供需 将持续紧俏,市场规模高速增长。通过分析生产工艺(TSV、键合等)和技术演进方向(先进制程、 叠层),我们认为封装测试半岛·体育中国官方网站平台登陆、前道和后道先进封装的设备和材料将是HBM主要受益方向。

  • HBM是当前算力的内存瓶颈。存储性能是当下制约高性能计算的关键因素,从存储器到处理器,数据 搬运会面临带宽和功耗的问题。为解决传统DRAM带宽较低的问题,本质上需要对单I/O数据速率和位 宽进行提升。HBM由于采用了TSV、微凸块等技术,DRAM裸片、计算核心间实现了较短的信号传输 路径、较高的I/O数据速率、高位宽和较低的I/O电压,因此具备高带宽、高存储密度、低功耗等优势。即便如此,当前HBM的性能仍然跟不上算力卡的需求。

  • 三大原厂持续加大研发投入,HBM性能倍数级提升。随着技术的迭代,HBM的层数、容量半岛·体育中国官方网站平台登陆、带宽指标不断升级,目前最先进的HBM3e版本,理论上可实现16层堆叠、64GB容量和1.2TB/s的带宽,分别为初 代HBM的2倍、9.6倍和4倍。从Trendforce公布的HBM Roadmap来看,2024年上半年,海力士、三星、 美光均会推出24GB容量的HBM3e,均为8层堆叠。2024年下半年,三家厂商将推出36GB版本的HBM3e,或为12层堆叠。此外,HBM4有望于2026年推出。

  • HBM制造集成前道工艺与先进封装,TSV半岛·体育中国官方网站平台登陆、EMC、键合工艺是关键。HBM制造的关键在于TSV DRAM,以及每层TSV DRAM之间的连接方式。目前主流的HBM制造工艺是TSV+Micro bumping+TCB,例如三 星的TC-NCF工艺,而SK海力士则采用改进的MR-MUF工艺,在键合应力、散热性能、堆叠层数方面更 有优势。目前的TCB工艺可支撑最多16层的HBM生产,随着HBM堆叠层数增加,以及HBM对速率、散 热等性能要求的提升,HBM4开始可能引入混合键合工艺,对应的,TSV、GMC/LMC的要求也将提高。

  • AI刺激服务器存储容量扩充,HBM需求强劲。随着云计算厂商将更多资本开支投入AI基础设施,AI服 务器ODM对2024年展望乐观,预计2024年AI服务器出货量继续大幅增长半岛·体育中国官方网站平台登陆。相较于一般服务器而言,AI 服务器多增加GPGPU的使用,以NVIDIA A100/H100 80GB配置8张计算半岛·体育中国官方网站平台登陆,HBM用量约为640GB,超越 常规服务器的内存条容量,H200、B100等算力卡将搭载更高容量、更高速率HBM。我们测算,随着算 力卡单卡HBM容量提升、算力卡出货量提升、技术迭代带来单GB HBM单价提升,2023年HBM市场规 模为40亿美元,预计2024年增长至148亿美元,2026年增长至242亿美元,2023~2026年CAGR为82%。

  • 目前HBM供应链以海外厂商为主,部分国内厂商打入了海外存储/HBM供应链。国产HBM正处于0到1 的突破期,HBM供应主要为韩系、美系厂商,国内能获得的HBM资源较少。随着国产算力卡需求快速 增长,对于算力卡性能至关重要的HBM也有强烈的供应保障诉求和国产化诉求。建议关注:封测、设 备、材料等环节。