1750GB 显存、22 张 H100 才装得下:K3.1 Pro 权重 11 月 4 日放出,私有化先算清三笔账
10 月 23 日(北京时间 24 日),月之暗面发布 K3.1 系列首款模型 Kimi K3.1 Pro:2.8 万亿总参数、1040 亿激活参数(MoE)、100 万 token 上下文,支持图像与视频输入,同步上线速度快 2 到 3 倍的 Highspeed 版。官方明确完整权重将于 11 月 4 日前放出。这条消息在 API 侧是价格战,在私有化侧则是一道硬门槛:权重能不能下、下下来装在哪、装满之后每小时得跑多少 token 才不亏。
一、先把发布事实钉住
第三方评测机构 Artificial Analysis 给出综合智能指数 55.1,排在其追踪模型的第四位,只低于 Claude Opus 5.5 的 57.6、Sonnet 5.5 的 56.0 与 Muse Wonder Full 的 55.8;Terminal-Bench 4.0 上 AA 实测 67%,官方自报 65.7%(厂商自报,存在口径差)。API 定价两端交叉看:海外口径输入 2 美元、输出 10 美元每百万 token;国内口径缓存命中输入 1.3 元、未命中 13 元、输出 68 元每百万 token。合起来是一句话——能力摸到第一梯队,价格砍到上一代的三分之二。
二、装机账:22 张 H100 才是起步价
K3.1 Pro 是 K3 的后训练版本,参数量与架构规模一致,部署门槛可参照 7 月 27 日已开源的 K3 实测值:896 个专家、每 token 激活 16 个,MXFP4 原生权重约 0.5 字节/参数,整模需约 1750GB 显存(第三方估算,非官方 checkpoint 规格)。换算成卡:22 张 H100 80GB(1760GB)刚刚塞满且毫无余量;若把激活提到 MXFP8,规模直接翻到 3500GB 级别。官方 K3 文档给出的建议更保守:64 卡以上超节点,靠专家并行叠加张量并行。也就是说,这不是一台 8 卡机能解决的事,是机柜、交换网与供电的事——先量机房可用功率、承重与 IB/RoCE 收敛比,再谈模型效果,顺序反了就是买回一堆跑不动的卡。
三、回本账:每小时 600 万输出 token 才打平
按 2026 年 10 月公开的云上 H100 时租,中位约 2.73 美元/卡时,最低成交价 2.42 到 2.50 美元/卡时。22 卡满负荷按中位算:2.73 × 22 ≈ 60 美元/小时,一天 1441 美元,一个月约 4.3 万美元,且不含存储、网络、运维人力与冗余备份。再对着官方输出价 10 美元/百万 token:60 美元一小时只够买 600 万输出 token。结论很直接——自建要跑赢 API,得每小时稳定产出 600 万输出 token,约 1670 token/秒,相当于 23 条满速单流并发不歇。低于这条水位线,买到的不是算力,是闲置。
四、冗长系数:单价之外的隐性成本
AA 跑完整套 Intelligence Index 时,K3.1 Pro 累计输出约 1.5 亿 token,而参与测试模型的中位数是 8700 万,高出约 72%;AA 因此直接给它贴上“非常冗长”的标签,输出速度 73.5 token/s 也低于同类中位 81.1 token/s。对自建方,冗长意味着同一任务吃掉更多解码时间,利用率越高越吃亏;对走 API 的一方,单任务账单会比刊例价看起来更贵。比价口径该换成“每完成任务成本”,这一点与它便宜的刊例价并不冲突。
五、许可证与验收两张清单
K3 这代使用 Kimi K3 License:一般商用放开,但若被许可方或其关联方经营 MaaS 业务、连续 12 个月合计收入超过 2000 万美元,须先与月之暗面单独签署协议;K3.1 Pro 的最终许可证随权重一并发布,在它落地之前,任何“可商用、可对外提供推理服务”的承诺都不算数。验收清单建议只留三条:权重文件哈希与量化档位、1M 上下文下的首 token 延迟与显存曲线、以及 200 条自有真实任务的 token 计量。缺任何一条,ROI 模型都建在假设上。
结论:三档选型
日均输出 token 在 200 万以下的团队,走官方 API 或聚合 API 更划算;200 万到 600 万之间、又有数据不出域要求的,先租 8 到 16 卡做评测与蒸馏,把任务集和 token 账跑厚;只有稳定越过每小时 600 万输出 token 水位的场景,才值得买 22 卡起的机器。权重 11 月 4 日见真章,决策不必提前十天买单。
来源:月之暗面 Kimi K3.1 Pro 技术博客与发布信息、Artificial Analysis 独立评测、36 氪(国内 API 定价)、OpenModelMap(K3 显存与卡数估算)、GPUPerHour(2026 年 10 月 H100 时租中位价)、Simon Willison(K3 许可证条款解读)。