开云(中国)Kaiyun·官方网站 - 登录入口由于东说念主工智能的握续彭胀-开云 (集团) 官方网站 Kaiyun 登录入口
（原标题：HBM开云(中国)Kaiyun·官方网站 - 登录入口，前所未见）
公众号铭记加星标，第一时刻看推送不会错过。
开始 ：实质 编译自 eetjp 。
跟着东说念主工智能驱动的数据增长呈指数级增长，高带宽内存 (HBM) 的给与也在激增。
然则，HBM 仍然是一种高端内存工夫，且不易完竣。跟着 NVIDIA 加速 GPU 设备，尺度也难以跟上。这意味着，定制化关于 HBM 能否不息受益于 GPU 和加速器的芜俚应用至关病笃。
笔据市集扣问公司 Dell'Oro Group 的最新陈述，由于东说念主工智能的握续彭胀，包括对 HBM、加速器和收集接口卡 (NiC) 的需求激增，处事器和存储组件市集预测在 2025 年第一季度同比增长 62%。
Dell'Oro 高等扣问总监 Baron Fung 在收受采访时暗示，“NVIDIA 的 Blackwell GPU 以及各大云处事提供商部署的定制加速器正在鼓动 AI 加速器市集的发展。”
笔据Dell'Oro《数据中心IT半导体和组件季度陈述》，SK海力士以64%的销售份额占据HBM市集的首位，其次是三星电子（以下简称三星）和好意思光科技（以下简称好意思光）。
Fung 暗示：“由于测验专用 GPU 的增长以及 AI 处事器和加速器的给与率握住提高，HBM 的给与将在 2022 年头始大幅彭胀。”
Fung指出：“夙昔几年，AI 处事器的销售额占统共这个词市集的比重从 20% 增长到 60% 傍边，鼓动了 GPU 性能和 HBM 容量的指数级增长。这种增长给 HBM 的供应带来了压力，供应商至少提前一年就被预订一空。”
SK 海力士和好意思光在 HBM 范围处于最先地位，其次是三星
三星一直难以闲暇 HBM 芯片供应的需求，这使得 SK 海力士和好意思光取得了进展，好意思光有假想于 2026 年头始大范围分娩具有 2048 位接口的下一代 HBM HBM4。
好意思光有假想在将来几年推出“HBM4E”，提供可定制的基础芯片选项。该公司暗示，其HBM收入将在2025财年第三季度环比增长约50%，年化营收将达到60亿好意思元。
Fung暗示：“关税形成的不笃定性增多将给供应链带来层层复杂性，从而影响 HBM 的价钱。”
关于高性能狡计 (HPC) 的需求，HBM 有好多现成的替代有假想。Fung 暗示：“一些低价 GPU 使用 GDDR，但无法取得 HBM 偏激雅致集成 GPU 所提供的高速互连。” “其他遴荐包括用于测验模子存储的低延伸 DRAM 和 SSD，但为了完竣顶级性能和延伸，HBM 至关病笃。”
Fung暗示：“跟着 GPU 制造商为 HBM 供应商制定阶梯图，且供应受到限制，三大主要参与者的市集证据健硕，其中 SK 海力士最先，其次是三星和好意思光。”
对内存工夫周期的需求比以往任何时候齐更短
HBM 制造商濒临的挑战是，GPU 供应商正在将新工夫发布的频率加速到每年一次，这比内存尺度的典型刷新周期要快得多。
Advantest 高等总监兼内存居品营销司理 Jin Yokoyama 向《EE Times》暗示：“传统内存工夫的转型常常需要四到五年时刻，而 HBM 现时每两到两年半就会更新换代一次，这加速了创新的次第。用于数据中心和加速器的 HBM 正在经验快速增长和工夫变革。”
Yokoyama 暗示：“HBM 晶圆产量正在快速增长，其速率以至特出了 DDR5 等现存 DRAM 的产量。传统内存工夫每四到五年就会更新换代一次，而 HBM 现时每两到两年半就会经验一次换代。这种快速的演变给像爱德万测试这么的测试竖立制造商带来了舛误挑战：他们必须跟上更快的居品周期和日益复杂的假想条款。”
定制完竣变得越来越多量
“测试条款也因制造商而异。一个要道挑战是，数据带宽和竖立容量的增多鼓动了设备更快的测试处分有假想和先进的散热照顾的需求，”Yokoyama说。
高等 AI/SoC（片上系统）用例越来越多地给与定制完竣，这进一步增多了 HBM 测试的复杂性。
此前，HBM 尺度由 JEDEC 界说，供应商同期分娩内存中枢和基本逻辑晶圆。然则，跟着 HBM4 的到来，SoC 制造商和超大范围狡计厂商将需要定制化的 HBM 功能，并对其进行优化以匹配其自有的 AI ASIC 或定制 SoC，从而完竣最好性能。
“稳妥这一趋势，现时越来越多的逻辑/适度器功能被径直内置到HBM基础逻辑芯片中。基础逻辑芯片的制造正在转向台积电等给与先进3nm/5nm工艺的代工场。这些先进工艺需要更先进、更无邪的测试历程。”横山说说念。
Marvell Technology 居品营销高等总监 Khurram Malik 暗示：“来自机器东说念主、传感器和其他物联网边际竖立的数据呈指数级增长，正在颠覆 HBM 传统的线性发展样式。JEDEC 发布 HBM3 次第不到三年，HBM4E 就已上市。”
Marvell 正与包括好意思光、三星和 SK 海力士在内的统共主要 HBM 供应商相助，共同设备定制 HBM 狡计架构。Malik 证明说：“该架构将于 2024 年下半年发布，它将集成先进的 2.5D 封装工夫和定制接口，从而复古为 AI 加速器 (xPU) 假想专诚定制的 HBM 系统。”
Malik 暗示，HBM 内存带宽和 IO 数目每代齐会翻一番，封装也变得越来越密集和复杂。像 HBM4 和 HBM5 这么的先进工夫，其 I/O 数目将从 2,000 个增多到 4,000 个，在有限的空间实质纳这些高带宽贯串需要创新的封装工夫，但业内很难达成共鸣。
“NVIDIA 不仅正在镌汰居品设备周期，每年发布新的 GPU，何况还有假想将内存带宽和容量翻一番，”Malik 证明说念。“然则，JEDEC 尺度的制定需要时刻，因此 NVIDIA 遴荐了定制处分有假想。”
HBM5 濒临的挑战
Malik 指出，HBM5 由于架构复杂（包括内存和适度器布局），给尺度化和普及带来了挑战。由于责任负载需要每个狡计芯片领有更多 HBM 堆栈，因此关于假想下一代 AI 和狡计硬件处分有假想的客户来说，在高内存带宽和更高容量之间取得均衡至关病笃。
“东说念主工智能导致参数容量激增，”马利克说说念。“顶级东说念主工智能模子发展赶快，参数数目从数百万增多到数十亿。预测单个模子将处理多达一万亿个参数，而这些参数必须保存在内存中。”
Marvell 的定制 HBM 架构可将内存容量培育 33%，狡计空间彭胀高达 25%，并将内存接口功耗杜撰 70%，这关于运行 AI 责任负载的当代数据中心尤为病笃。优化的接口减少了每个芯片所需的硅单方面积，并复古将 HBM 复古逻辑集成到基础芯片中。
“Marvell 在其 HBM5 架构中提倡的有假想是使用芯片间互连来加速贯串并开释更多空间，”Malik 说说念。Marvell 的架构与 JEDEC 尺度无关，需要新的适度器和可定制的物理接口、新的芯片迤逦口以及改进的基于 HBM 的芯片。
Malik暗示：“超大范围狡计厂商和像 NVIDIA 这么的 GPU 制造商正专注于带宽和狡计需求，并哄骗自有的 HBM 架构加速创新。跟着行业全速发展，他们往往最先于那些更新迟缓的尺度机构。”
https://eetimes.itmedia.co.jp/ee/articles/2509/03/news082_3.html
*免责声明：本文由作家原创。著作实质系作家个东说念主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或复古，要是有任何异议，迎接有关半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第4149期实质，迎接眷注。
加星标第一时刻看推送，小号防走丢
求保举
开云(中国)Kaiyun·官方网站 - 登录入口