均价 13.46 元每百万词元之后:自建推理的盈亏线在哪个量级
一份官方监测把“词元到底该值多少钱”拉回账本
10 月 23 日,中国信通院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告(2026 年)》。报告基于 2026 年 1—8 月监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口六个维度展开,并对比原厂平台与 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的表现。
把几个数字摆在一起,指向的是同一件事:词元既变贵了,也变重了。国内归一化均价从 2025 下半年 6.8 元(每百万词元)升到 2026 年以来 13.46 元,涨幅接近一倍;同期国外典型模型归一价格约 117.8 元,仍是国内的近 9 倍。2026 年 6 月国内词元日均消耗量约 500 万亿,为 2025 年 12 月的近 4 倍。
吞吐口径:78.23 个每秒,等于一条通道月产约 2 亿输出词元
8 月国内各模型平均 TPS 为 78.23 个每秒,较 2025 年均值 38.25 翻倍;国外典型模型 112.82 个每秒,同样翻倍以上,绝对水平仍领先国内。这个指标对私有化规划的意义比排名实在得多——它可以直接折算成容量。
按 78.23 个每秒满负荷连跑一个月,单条服务通道的月输出能力约 2.03 亿词元。要撑起 10 亿输出词元每月的业务量,需要约 5 条这样的通道全天候跑满;而真实业务的峰谷比通常在 3 比 1 以上,按均值配卡必然在峰值排队。自有集群“看着够用、实际总在等”的根本原因就在这里。
价格翻倍,动的是盈亏点的位置
做自建决策最怕拿两年前的均价建模。按报告口径粗算:10 亿输出词元每月的调用量,6.8 元(每百万)时折合 0.7 万元每月,13.46 元时是 1.3 万元每月,差额年化约 8 万元。量级再上一个数量级,差价就是年化 80 万元,已够覆盖一台中配推理服务器的年折旧。换句话说,均价翻倍把自建划算的门槛整体往前推了一档:原本要年耗数十亿词元才值得自建的业务,现在十几亿词元就该认真比一次账。
同时要认清口径风险:13.46 元是归一化后的可比价格,不是任何平台的账单单价,输入与输出价差常达 3 到 4 倍,直接套用会失真。自建侧也不能只比单价,电费、机房、运维人力与模型换代的重置成本都要计入。
1M 上下文占 47.8%,显存必须按长窗口预留
被监测模型中上下文达 1M 的占 47.8%,200K 及以上合计 95.7%,较 2025 年底提高 76 个百分点以上。私有化最常见的一处失手,就是按 32K 或 128K 估 KV Cache,上线三个月业务把长文档、代码库整段塞进上下文,显存立刻见底。选型时按目标模型的最大窗口预留 KV 空间,再回头压低并发数,顺序反了就是反复扩容。
首词时延同样要重设基线:国内 8 月均值 1.26 秒,2025 年平均 0.78 秒,上升 61.5%;国外典型模型 2.08 秒,而其 4 月为 1.04 秒。报告解释这不是单纯的性能退化,而是参数量、上下文长度、调用量同步上升的伴生结果。自建团队若照抄去年的 0.8 秒当 SLO,验收几乎必然不合格。
一个可落地的判断
同款开源模型在不同平台间的 TPS 差距最大接近一倍,说明决定体验的不只是模型本身,还有推理加速与调度策略;报告举例,8 月 DeepSeek-V4-Pro 的 TPS 已是 V3.2 的 2 倍。企业做私有化,建议先用 SGLang、vLLM 实测吞吐来定容量,而不是照抄官方 benchmark,再拿 13.46 元这个新均价去对标租用账,拐点往往比直觉来得更早。
来源:中国信通院《大模型词元服务性能监测报告(2026年)》,数据经 IT之家、中证网、财联社、凤凰网科技报道交叉核对。