十万卡集群的四个工程数字,能搬进你的私有化机房几个?

行业新闻 · 丁香 · 发布 2026-10-23 · 阅读 41

10 月 22 日,第 23 届中国计算机大会在成都开幕,注册人数超过 1.1 万人,是这一会议创办二十多年来第一次落地四川。会场内外被反复提起的三个词是数据、算力、实验室——没有一个是模型参数。这个细节本身就说明了产业重心在往哪儿挪。

十万卡到底产出了什么

中科曙光高级副总裁李斌在会上给了一组可核对的数字:今年 7 月上线的曙光 8000(登峰)全国产十万卡 AI 超集群,已支撑 300 多个重点科学工程仿真和万卡级模型预训练。更早在 7 月的媒体探访中,中科曙光披露该集群已完成 300 余项超智融合应用优化,覆盖大模型、机器人、新材料等 20 余个领域,超过 70 项应用实现万卡规模扩展;推理侧已提供 400 多个主流模型的线上服务,并称若全部算力转做推理,可覆盖当前中国 5% 至 10% 的 Token 访问需求(厂商测算口径)。

300 项优化、400 个模型、5% 至 10% 的份额,这三个数比任何跑分都更能说明十万卡的真实形态:它不是一台只用来训练巨模型的机器,而是一个同时承接科学计算与推理服务的混合作业池。对私有化甲方来说,这意味着公开集群的能力边界是可被拆解、可被对标采购的。

瓶颈已经从芯片挪到机柜外面

真正值得做私有化的人抄走的,是成本结构的变化。据《中国证券报》对郑州核心节点的探访,曙光 8000 用浸没相变液冷把 PUE 压到 1.04,自研 scaleFabric 400G 网络端到端时延低至 0.9 微秒、单子网可支持超过 11 万卡。国泰海通计算机首席分析师杨林的判断更直接:十万卡集群里,网络、液冷、电力、机柜等基建投入占比已首次超过 GPU 采购成本。

这句话不能直接搬到中小规模上。十卡到百卡区间,加速卡仍是预算主体;但电与冷却进入核心成本项这个方向已经定了。如果按风冷机房的能效去估算三年 TCO,就会把电费与制冷低估一大截。私有化的可行性表至少要拆成卡、网络、电力制冷、运维四栏,而不是一栏服务器采购。

天花板也要一起看

李斌现场没有回避短板:到目前为止还没有任何一个大模型能跑满十万卡,即便给了十万卡,模型性能也很难线性提上去,工程化问题仍在,需要与大模型团队继续做联合算法优化。海光信息的专家补上了另一半解释:参数规模正从千亿级往万亿、十万亿级走,单卡单机已难支撑,基础设施必须从优化单一部件转向计算、通信、存储、芯片与软件的系统协同。

这恰好是私有化最该算清的一笔账:规模不是越大越好,而是够用且少浪费。同场发布的“天府·慧研”1.0 给了另一个参照——这个面向新材料、新药创制、清洁能源的科学基础大模型,激活参数约 350 亿,以国产算力、科学数据、干湿智能实验室构成的 1+3+N 体系运行,靠专用模型群加验证闭环压幻觉,而不是靠堆参数。

选型上可以落地的三条

一是按激活参数备算力、按总参数备显存。垂类场景 300 亿级激活往往够用,盲目对齐万亿参数只会推高闲置率,把回本周期从两年拉到四年以上。

二是把能效写进招标条件。PUE 已经是可量化指标,液冷与否直接决定三年电费,别等扩容时才发现机房功率密度不够、配电要重做。

三是问清互联时延与缓存架构。长上下文与多智能体推理吃的是卡间通信和 KV 缓存命中率,0.9 微秒这种量级在十万卡上有意义,但百卡集群更该追问交换层级和拥塞控制怎么做。

地方投入的强度也在说明这条路有人真金白银买单:四川把人工智能+作为全省一号创新工程,今年前三季度 AI 产业营收 1521 亿元、同比增长 21%,2025 年营收 1919.7 亿元、同比增长 22.9%,全省重点 AI 企业 2806 家,其中专精特新小巨人 93 家。

一句话观察:这一轮国产算力的看点已经不是单卡峰值,而是把电、网、冷、存一起交付的工程能力;对采购方来说,红利不在算力峰值表上,而在三年 TCO 的四栏里怎么填。

来源:新华网、中国证券报、央视网、四川在线公开报道