带宽多 30%、算力面积多 25%:NVHBM 定档 2027,自建推理的采购合同要补三行
10 月 19 日,韩国《首尔经济日报》报道、经 Electronics Weekly 与 TechPowerUp 转述:三星与美光已确认按英伟达要求,把自家 NVHBM 的 base die(HBM 堆叠底部的逻辑层)交给台积电 3nm 代工;SK 海力士此前 HBM4 的 base die 用的已是台积电 12nm。三家存储厂统一底座工艺,量产时间落在 2027 年。这条消息表面是供应链新闻,对自建推理集群的人来说,它动的是采购合同的参数栏。
一、把控制器搬进内存底座,换来三个百分比
NVHBM 不是新一代 DRAM,它是基于 HBM4E 的定制版本:英伟达把原本长在 GPU 上的内存控制器搬进了 HBM 的 base die。按英伟达口径,相比标准 JEDEC HBM4E,它带来三件事:带宽最多 +30%、HBM 功耗 -15%、算力 die 可用面积最多 +25%。TechPowerUp 与 StorageReview 都引用 25% 这个面积数字,Tom's Hardware 记的是 30%,两家口径有出入,采购文件里按 25% 取值更稳。
面积是怎么省出来的:定制 PHY 让内存接口与支撑面积最多减少 67%,封装内互连走线简化后,可用硅片最多多出 80%。带宽的绝对值也有参照:三星在 Hot Chips 2026 上给出 HBM4E 每 pin 16 Gbps、单栈 4 TB/s,按 +30% 折算,单栈 NVHBM 理论值约 5.2 TB/s。这是 TechPowerUp 的推算,不是实测。
二、这 30% 怎么落到每百万 token 的成本上
自建推理的成本结构里,prompt 处理(prefill)吃算力,逐 token 生成(decode)吃带宽。单流、长上下文这类最挑带宽的场景,解码速度基本与带宽同向:带宽 +30%,同一张卡、同一个模型,token 吐出的速度上限也差不多按 1.3 倍走。若某节点的年化成本是 C、产出是 Q,每百万 token 的固定成本就从 C/Q 变成 C/(1.3Q),降幅约 23%。这是比例推算而不是报价:真实收益取决于你的任务是否真的压在带宽瓶颈上,以 prefill 为主的批处理,只会看到那 +25% 面积带来的一点增益。
有两个水分必须扣掉:一是容量没变,长上下文的 KV cache 依旧按原有显存算,别指望 1M 上下文能白捡;二是 15% 的功耗下降只针对 HBM 部分,不是整机,机房 PUE 与供电预算不能按 15% 重算。
三、合同里要补的三行字
第一行,写清 HBM 类型与底座代工来源。三星已明确会继续为标准 HBM 供货,也就是说 2027 年的市场上会同时存在 JEDEC HBM4E 与 NVHBM 两条线,同一型号机器的不同批次,带宽可能差三成。到货验收别只看型号,要求随货提供 HBM 类型、base die 工艺与代工厂,并在上架时按验收带宽实测打点。
第二行,给 3nm 单点供应写赔付。三家存储厂的 base die 全部压到台积电 3nm 一处,三星自己在验证 2nm 底座作为备份但尚未量产。这不是价格风险,是交付风险,合同里要有替代方案生效条件与延期赔付比例。
第三行,把残值条款从五年压到三年。2027 年量产的 NVHBM 机队出现后,2026 年上架、按 HBM4E 规格签下五年折旧的节点,二手残值会被按旧标准重新估值。租期压进三年内、或者写明换代回购,往往比砍单价更值钱。
Electronics Weekly 那句判断值得抄进采购备忘:HBM 正在从纯粹的存储产品,变成"代工加封装"的产品。意思很直接——以后买推理节点,审供应商的力度要和买芯片一样:看的不只是显存多少 GB,而是这块底座是谁的工艺、哪家厂封的、换代时还能值多少钱。
来源:Electronics Weekly(引首尔经济日报)、TechPowerUp、StorageReview 公开报道;NVHBM 带宽、功耗、面积数字为英伟达自报口径。