谷歌Gemini Decision 1开放权重,本地推理成本降低近5倍

行业新闻 · 丁香 · 发布 2026-11-12 · 阅读 2

决策范式革新

谷歌正式推出Gemini Decision 1,这款模型摒弃了传统生成式大模型逐字生成Token的方式,转而通过单次前向传播对预设候选答案进行评分。它专为封闭选项集中的决策任务设计,能在一次处理中完成判断、评分或选择,无需进行复杂的文本解码流程,极大提升了特定场景下的推理效率。

极致成本控制

在硬件与算力成本方面,Gemini Decision 1展现了极强的竞争力。官方数据显示,每百万输入Token的价格仅为0.10美元,而输出Token费用为零。相较于自家Gemini 3.5 Flash-Lite,其调用成本降低了近5倍。这种激进定价策略使得该模型非常适合对推理成本敏感的大规模私有化部署场景,企业可以以极低的边际成本运行高频决策任务。

多模态高效处理

模型支持文本、图像、音频、视频及PDF等多模态输入,最高支持256K Token的上下文窗口。开发者可预设2至255个候选选项,或定义有序评分标准。在一次请求中,系统可同时处理最多1000个独立问题,端到端延迟保持在150至250毫秒之间。即使问题数量从1个增加至100个,延迟也基本平稳,展现了优秀的并发处理能力。

基准测试表现

在与OpenAI GPT-6 Luna、TypeSafe Jev 1.14及Gemini 3.5 Flash-Lite的对比中,Gemini Decision 1在9项基准测试中拿下7项第一。在JevBench测试中准确率最高达92.2%,在Amazon ESCI测试中Macro-F1分数为58.7%。虽然整体领先,但在Mind2Web Multimodal和When2Call测试中,专用决策模型TypeSafe Jev 1.14分别以86.8%和82.0%的成绩保持微弱优势。

校准误差优势

谷歌特别强调了概率校准能力。在Top-1 ECE测试中,Gemini Decision 1的校准误差仅为0.0250,远低于GPT-6 Luna的0.0721和Flash-Lite的0.2104。低校准误差意味着模型输出概率与实际正确率高度一致,这对于依赖置信度进行自动决策或人工复核的Agent系统至关重要,能显著降低错误判断带来的业务风险。

内部应用落地

谷歌内部已利用Decisions API构建实时模型路由器,用于Gemini Notebook产品。该机制根据请求复杂度动态分配模型资源,使日常查询延迟最多降低40%。这种将决策模型作为底层组件嵌入系统架构的做法,验证了其在优化推理成本和提升响应速度方面的实际价值,为其他企业的本地化部署提供了参考路径。

来源:InfoQ