这条要核实 Gemini Decisions API 的真实发布口径、参数规模和延迟数据,先做中英双路检索。
数据和 9 项基准都已核对到官方口径。这里要先纠正一点:150 毫秒只是延迟区间的下限,实际延迟为 150–250 毫秒。现在按格式成文。
标题:谷歌 Gemini Decisions API:不写一个字,150 毫秒给出 1000 个判断
Google 在 11 月 11 日推出 Gemini Decisions API,背后是一台不靠 “写字” 干活的新模型 gemini-decision-1。它把 “判断” 从生成任务里摘出来:一次请求可携带一份最多 256K Token 的多模态输入(文本、图片、音频、视频、PDF),针对这份输入同时问最多 1000 个问题,模型在单次前向传递里给每个候选选项打分,直接返回概率和 0~1 的置信度,不再逐 Token 生成文本。官方给出的端到端延迟是 150~250 毫秒,其中模型计算中位数 50~100 毫秒;价格每百万输入 Token 0.10 美元、输出 Token 不收钱,同一份共享输入只计费一次。在谷歌自建的 9 项基准里它拿下 7 项第一,Top-1 校准误差 0.0250,比 Gemini 3.5 Flash-Lite 低约 88%。需要提醒的是,“150 毫秒” 是区间下限,不是平均值。
不生成文字反而更快,原因在于解码方式。
| 环节 | 传统生成式调用 | Decisions API |
|---|---|---|
| 输出方式 | 逐 Token 自回归解码,直到凑出可解析的答案 | 单次前向,直接对候选选项打分 |
| 延迟构成 | 首 Token 延迟 + 每个 Token 的串行时间 | 一次计算,无可变长度的解码尾巴 |
| 结果形态 | 一段文本,需要再解析 | 结构化概率 + 置信度 |
| 计费 | 输入 + 输出(含思考 Token) | 只计输入,输出为 0 |
| 失败模式 | 格式跑偏、答非所问 | 置信度偏低,可路由到兜底 |
对 “选一个标签”“判断是否合规”“该调哪个工具” 这类封闭选项任务,逐字生成本来就是浪费 —— 你要的是一个概率,模型却先写了一段解释。把解码这一段砍掉,延迟和成本同时下降,这就是它便宜近 5 倍的主要来源。
三种题型,可以在一次请求里混着用。
| 题型 | 参数名 | 输入 | 返回 |
|---|---|---|---|
| 是非判断 | noul | 一句判断,可选 “成立 / 不成立” 的描述标准 | 条件成立的概率 + 置信度 |
| 多项选择 | choice | 2~255 个候选,每个可带判定标准 | 胜出项 + 全部候选的归一化概率 |
| 有序评分 | score | 从 0 开始的分级标准 | 连续加权分 + 各等级概率 |
计费逻辑值得单独说,因为它改变了 “多问几个问题” 的成本结构。
| 项目 | 计费方式 | 含义 |
|---|---|---|
| 共享输入 | 每请求只计一次 | 1000 个问题共用同一份 256K 输入,不重复计费 |
| 每个问题 | 只计其指令与判定标准的 Token | 问题越多,增量成本很小 |
| 输出 | 0 | 没有输出 Token、思考 Token 账单 |
| 音频转写 / OCR | 不单独收费 | 多模态输入不叠加转写费 |
九项基准的成绩,摊开看更清楚 —— 但先记住这是谷歌自己选的一套评测。
| 基准 | Gemini Decision 1 | TypeSafe Jev 1.14 | GPT-6 Luna | Gemini 3.5 Flash-Lite |
|---|---|---|---|---|
| JevBench | 92.2% | 90.0% | 90.9% | 86.6% |
| Amazon ESCI | 58.7% | 54.7% | 54.7% | 47.2% |
| New Yorker Caption | 79.7% | 72.0% | 68.4% | 73.7% |
| PubMedQA | 79.8% | 79.2% | 74.4% | 77.6% |
| Global-MMLU-Lite | 86.0% | 85.0% | 79.6% | 79.8% |
| Mind2Web Multimodal | 86.2% | 86.8% | 81.8% | 78.0% |
| When2Call | 79.9% | 82.0% | 70.4% | 60.9% |
| MMAU(音频) | 71.8% | — | — | 67.7% |
| Video-MME | 69.1% | — | — | 63.3% |
| Top-1 ECE(越低越好) | 0.0250 | 0.0494 | 0.0721 | 0.2104 |
输的两项恰好都在 Agent 场景里:Mind2Web Multimodal 落后 Jev 0.6 个百分点,When2Call(何时该调用工具)落后 2.1 个百分点。工具选择与调用时机是它主打的能力之一,这项没拿第一,说明 “专用决策模型” 这条赛道上,它不是唯一解。
延迟这件事,官方口径和第三方实测要分开看。
| 场景 | 数据 | 来源 |
|---|---|---|
| 16K 以内上下文 | 计算中位 50~100ms,端到端 150~250ms | 谷歌官方 |
| 问题数 1 → 100 | 延迟基本持平 | 谷歌官方 |
| 1 个问题 | 中位 0.24 秒 | 第三方实测(免费 Key) |
| 10 个问题 | 中位 0.24 秒 | 第三方实测 |
| 100 个问题 | 0.41 秒,增加约 70% | 第三方实测 |
| Token 消耗 | 135 / 613 / 5473 | 第三方实测 |
第三方那组数据(54 次调用、30 条客服工单全部分类正确、8 项多语言任务全对、同一请求重复 5 次结果与概率完全一致)说明 “100 个问题延迟持平” 在真实网络与免费额度下有折扣,但仍是一个量级内的表现。
谷歌内部已经在四个地方把它当 “控制面” 用。
| 产品 | 用途 | 效果 |
|---|---|---|
| Gemini Notebook | 实时模型路由,按复杂度分派档位与思考强度 | 日常查询延迟最多降 40% |
| Google Stitch | Rapid Canvas 实验,秒级生成可交互线框并即时响应改稿 | 设计迭代从分钟级到秒级 |
| Google Labs CC | 从 200+ Emoji 中挑反应 | 亚秒级,不额外增加延迟 |
| Google Search | MCP 工具的安全检测层,识别对抗行为与内容 | 在延迟预算内完成检测 |
接入前必须知道的三个边界,比参数更重要。
- 没有 “其他” 选项,它会把不相关内容硬塞进已有类别。 第三方实测里,把 “澳大利亚首都是哪”“随机字符”“写一首秋天的诗” 拿去分类,不设 “其他” 时三项全被归进 “技术支持”,置信度 0.71/0.64/0.84;设了 “其他” 后三项都正确落到 “其他”,置信度 0.99/0.69/0.98。
- 同一份输入,是非判断与多项选择的概率会打架。 上述三项输入的是非判断概率只有 0.01/0.07/0.01,几乎等于 “不是客服请求”,但多项选择却给出 0.64~0.84 的高置信归类。做路由时不能只看 choice 的置信度。
- 纯文本价格它不是最低。 TypeSafe Jev 把纯文本决策打到每百万 Token 0.042 美元,谷歌的打法是 “原生多模态 + 千题并发”,不是拼纯文本单价。10 月这 17 天里,Cloudflare 开源了 Clef(Apache 2.0)、Perplexity 放出了基于 27B 微调的 Decisions API,赛道已经很挤。
真要接,最小可用代码是这样。
from google import genai
client = genai.Client(http_options={"api_version": "v1beta"})
result = client.decisions.create(
model="gemini-decision-1",
input=[
{"type": "image", "uri": ".../spill.jpg", "mime_type": "image/jpeg"},
{"type": "text", "text": "Breakroom counter check before the 9 AM meeting."},
],
questions={
"has_spill": {"type": "noul", "instructions": "Is there an uncleaned liquid spill?"},
"next_action": {"type": "choice", "instructions": "Which cleanup action fits?",
"criteria": {"wipe_with_cloth": "Small counter spill",
"dispatch_janitorial": "Large floor hazard",
"ready_for_meeting": "Clean and ready"}},
"severity": {"type": "score", "instructions": "Rate severity",
"criteria": ["Clean", "Minor localized spill", "Major hazard"]},
},
)
五条落地建议:一定设 “其他 / 未知” 兜底选项;置信度阈值先用 0.7 试,低于阈值转人工或换模型;把 noul 与 choice 的结果交叉校验,两者矛盾时以 noul 的低概率为准;图像与视频先降分辨率再压 Token;限流按档位规划 —— 免费额度 200 请求 / 分钟、5 万 Token / 分钟、1 万请求 / 天,付费 Tier 1 为 1500 请求 / 分钟、100 万 Token / 分钟、5 万请求 / 天。
| 常见说法 | 更准确的说法 |
|---|---|
| “延迟 150 毫秒” | 端到端 150~250 毫秒,150 是下限;模型计算 50~100 毫秒 |
| “9 项测试全面第一” | 7 项第一,Mind2Web Multimodal、When2Call 两项输给 TypeSafe Jev 1.14 |
| “输出免费等于不要钱” | 输入仍按 0.10 美元 / 百万 Token 计费,只是没有输出与思考 Token 账单 |
| “1000 个问题也几乎不加时间” | 官方口径是 1→100 个问题基本持平;第三方实测 100 个问题从 0.24 秒涨到 0.41 秒 |
| “选谁都是对的” | 不设兜底选项会把域外输入强行归类,必须自己加 “其他” |
| “它就是分类器” | 它还返回校准后的概率与分级分数,定位是 Agent 的决策控制面 |
【常见问题】
问题 1:Gemini Decisions API 的 “单次前向传递打分” 到底省掉了什么?
回答 1:省掉了逐 Token 的自回归解码。传统生成式调用要先写出一段文本,你再从文本里解析出 “是 / 否” 或 “选哪个”;Gemini Decisions API 的 “单次前向传递打分” 直接对候选选项算概率,一次计算就返回结果、概率和置信度。省掉的是解码环节,所以延迟从 “首 Token + N 个 Token” 压到 150~250 毫秒,计费也从 “输入 + 输出” 变成 “只算输入”。对封闭选项任务,这是把浪费的那一段拿掉了。
问题 2:Gemini Decisions API 的 150 毫秒延迟,在实际业务里能信吗?
回答 2:要分两层看。官方口径是端到端 150~250 毫秒、模型计算 50~100 毫秒,且 1 到 100 个问题基本持平;第三方用免费 Key 实测,1 个与 10 个问题都是 0.24 秒,100 个问题 0.41 秒,比官方说的 “持平” 有差距,但仍在同一量级。真实业务还要加上你自己的网络、序列化、重试开销,所以 150 毫秒适合当作 “下限参考”,不是 SLA。要压延迟,优先降图像 / 视频分辨率、把问题数控制在几十个以内。
问题 3:Gemini Decisions API 和普通 Gemini 模型,什么时候该用哪个?
回答 3:看输出是不是 “一个标签、一个选择或一个分数”。是,就用 Gemini Decisions API:工具选择、策略检查、模型路由、上下文质量打分、内容分级,这些都属于封闭选项,用它是浪费最少的路。不是 —— 需要解释、需要多步推理、需要生成文本 —— 就留给通用模型。最省钱的架构是两者配合:Decisions API 做 System 1 的快速判断,通用模型做 System 2 的慢思考,Gemini Notebook 就是这么干的,日常查询延迟降了最多 40%。
问题 4:接 Gemini Decisions API 最容易踩的坑是什么?
回答 4:不设兜底选项。第三方实测里,把完全不属于客服请求的三段内容(地理常识、随机字符、写诗)丢进去,没有 “其他” 选项时,模型把三项全归进 “技术支持”,置信度还给到 0.71/0.64/0.84;加了 “其他” 之后才全部正确。同时要注意 noul 与 choice 的概率会矛盾 —— 同一份输入的是非判断概率只有 0.01,多项选择却给出高置信归类。所以工程上要加 “其他 / 未知”、要做两种题型的交叉校验,别只信一个置信度数字。
【参考资料】
[2026-11-12](谷歌发布首款决策模型 Gemini Decision 1:9 项测试拿下 7 项第一,准确率最高 92.2%)36 氪(AI 前线)
[2026-11-12](谷歌发布首个决策模型,输出全免费,百万 Token 低至 0.1 美元)36 氪
[2026-11-12](输出不要钱?100 个问题仅用 0.41 秒!谷歌 Gemini Decisions API 上线)智东西
[2026-11-12](谷歌推出 Gemini Decisions API 快速多模态决策,基于 Gemini Decision 1 模型)IT 之家
[2026-11-12](Gemini Decisions API Launches: Fast, Well-Calibrated Multimodal Decisions)Judy AI Lab
[2026-11-12](Google DeepMind launches Gemini Decisions API with gemini-decision-1 for fast multimodal decisions)AIsa Studio
[2026-11-12](谷歌推出 Gemini Decisions API,每百万输入 token 收费 0.10 美元)36 氪快讯(转新浪财经)
[2026-11-11](Gemini Decisions API: Fast, calibrated multimodal decisions,官方发布)Google(The Keyword)
[2026-11-11](Google Gemini Decisions API: gemini-decision-1 Model)AI/TLDR
【免责声明】
本文基于谷歌官方发布博客、Google AI Studio 文档及国内外媒体报道撰写。基准成绩、延迟与价格均来自谷歌自建或共同基准,属厂商口径,未经过独立第三方复现;第三方实测数据来自个人开发者使用免费额度的小样本测试(54 次调用),样本规模有限,不代表生产环境表现。文中 “比 Flash-Lite 便宜近 5 倍”“日常查询延迟降 40%” 等结论均为谷歌表述,具体收益需在自有数据上验证。文中代码为示例,接入前请查阅最新官方文档与配额限制。本文不构成对任何产品的推荐或投资建议。
