一台 8 卡机变成三套集群:私有化推理的起步清单多出两行

行业新闻 · 丁香 · 发布 2026-10-23 · 阅读 39

三套集群,不是一台机器

10 月 21 日 GTC 柏林站,Nutanix 与超微公布了一套联合工程化的私有化推理方案:计算节点每台放 8 张英伟达 Blackwell Ultra(B300),外加一套专用的 Nutanix 管理集群 NX-8170-G10、一套独立的统一存储集群 NX-8150-G10,节点之间用 Spectrum-X 以太网打通——Spectrum-4 交换机 SN5610/SN5600、ConnectX-7/8 SuperNIC、BlueField-3 DPU 各就各位。软件侧从裸金属纳管一路铺到模型即服务,再配一个 Agent Gateway 和内置的 AI 应用目录。计划 2027 年初通过超微及其渠道出货,定价未公布。

这条新闻里最容易被略过的一句是“专用管理集群”。以往企业自建推理,管理面和 GPU 常常挤在同一批机器上,管理面一挂,推理跟着停。这套方案的卖点是把控制面单独关进一个集群,管理面故障不许打断 GPU 执行。代价也很清楚:你要买的不是一台 8 卡机,而是计算、管理、存储三类机器同时到位。私有化的最小起步单位,从机柜级被抬到了机房级。

一个节点 2.09TB 显存,账怎么算

B300 单卡 268GB HBM3e,8 张合起来就是一个节点 2.09TB 显存;单卡密集 FP4 算力 13500 TFLOPS,8 卡合 108 PFLOPS(以上均为厂商公布规格,超微 MLPerf 页面给出的 8 卡聚合 2.1TB HBM3e 可交叉印证)。这个容量放进本周的模型口径里是什么概念:MiniMax M3.1 Flash 的 MXFP8 权重约 252GB,2.09TB 扣掉 KV 余量后大致能装 8 份;腾讯混元 Hy3 的 FP8 权重 295GB,能装 7 份左右;换成 1M 上下文的超长序列(单序列 KV 约 122GB),一个节点只够撑十几路并发。

结论很直接:大显存的价值不在“能跑多大模型”,而在“同样的并发少切几刀”。跨节点张量并行每多切一刀,interconnect 流量和每 token 延迟都要还债,而这两项在 agent 场景里直接换成人等着的秒数。

没有定价,招标清单得先补三行

两家都没给价格,也没有任何第三方实测的每 token 成本,公告只说目标是控制每 token 成本。这意味着采购侧不能拿它跟云 API 直接比价,只能先按三个口径建模型:一是每 GB HBM 的三年折旧,含管理集群与存储集群的分摊;二是每百万 tokens 的折算生成时长;三是管理面独立带来的可用性溢价——少一次管理面故障,等于少一次整批推理停摆。

时间账还有一层:2027 年初才出货,意味着 2026 年第四季度立项、2027 年上半年上线,中间空出约一到两个季度。这段空窗要不要先用云 API 顶着,是整套测算里最容易漏的一行:按单节点百万级资本支出摊到 12 个月,空窗两个季度就等于凭空多背约 15% 的折旧费用。

我的判断

这套方案真正打的是集成账单,不是硬件单价。企业自建推理最贵的往往不是卡,而是那几周甚至几个月把卡、存储、网络、K8s、模型服务拼起来的工程时间,以及每次扩容都要重来一遍的定制采购流程。把预验证做进方案里,卖的是确定性。但确定性得有价签才能验收,建议在合同里补两条:一是到货后 60 天内提供基于买方自有模型的每百万 tokens 实测数,二是管理集群与存储集群的软件许可按节点还是按集群计费、扩容 GPU 节点时是否连带涨价。这两条不落地,预验证只是把集成风险从买方的账上挪进了供应商的话术里。

来源:Nutanix 与超微 2026-10-21 联合公告(GlobeNewswire)、StorageReview、FutureTechDose、StockTitan 报道;B300 显存与算力为英伟达公布规格。