不用逐token生成回复,Gemini Decision 1能解决哪些AI智能体痛点?

源自100位全网作者

14:07

北京时间 11 月 12 日凌晨,谷歌 CEO 桑达尔·皮查伊与官方账号宣布 Gemini Decisions API 上线,背后是谷歌首个决策模型 Gemini Decision 1。它不在聊天框里逐字写答案,而是给一段共享的多模态输入配上最多 1,000 个彼此独立的问题,用一次前向计算打出概率和把握,输出文本 token 计费为零。每次调用最多带 1000 道问题,共享输入加全部问题合计不能超过 262,144 个 token,问题类型覆盖是非、2 到 255 项的多选和有序打分。哔哩哔哩哔哩哔哩知乎

它瞄准的不是"模型不够聪明",而是智能体流水线里那些"只需要一个判断、却要为大模型的逐字生成买单"的环节。 过去搭 Agent 的常见做法,是把路由、审核、工具选择这类小判断也丢给通用大模型:你要分类、要判断、要路由,它也能干,但代价是要付生成 token 的钱、要等推理链路跑完,还要用解析代码从散文里把答案抠出来。 Gemini Decision 1 把这条路砍掉:传入问题和固定选项,直接返回结构化 JSON,模型在一次请求里并行处理这些问题,返回各自的概率,同一份输入按一次计费。 官方演示里,扫 100 张派件照片、每张照片同时问 16 个问题,4.5 秒判完,比 Gemini 3.5 Flash-Lite 快将近 4 倍。知乎知乎哔哩哔哩

第一笔账是延迟。 按谷歌公布的口径,16K 上下文、1 到 100 道问题的测试范围内,模型计算中位延迟只有 50~100 毫秒,端到端约 150~250 毫秒。 一条 Agent 链路连跑几十步、每步都要判一次"该选哪个"时,这些毫秒是叠乘的:Gemini Notebook 已经拿它做实时分流,官方博客称日常问题最多可降低约 40% 时延。知乎哔哩哔哩

第二笔账是成本。 API 定价为每百万输入 token 0.10 美元,输出免费,与 OpenAI 的 Decisions API 同价。 共享输入只计费一次、1000 道题摊薄同一份阅读成本。谷歌 CEO 皮查伊算的是另一笔账:在官方对照基准上,它比用 Gemini 3.5 Flash-Lite 走 Interactions API 便宜将近 5 倍。知乎哔哩哔哩

第三笔账平时最少被提起:概率可不可信。 通用大模型输出的置信度来自 logits 归一化,说 90% 把握时真实命中率未必有 90%,拿这种分数做自动分支,系统稳定性会塌。决策模型把校准概率做成 API 的一等公民,谷歌官方对照里,对自己的答案有多大把握,Gemini Decision 1 估算得最准,Top-1 ECE(校准误差,越低越好)为 0.0250,优于 Jev 1.14 的 0.0494 和 OpenAI 的 0.0721。开发者可以在代码里直接切档:把握够高就自动执行,拿不准就升级给大模型或人工——概率从"参考值"变成"控制信号",这正是决策模型能进生产的前提。知乎

多模态是它相对同类的差异位。 音、视频和 PDF 能与其他输入一起进同一份前向计算:在谷歌公布的 9 项对照评测中,音频和视频两项只有它有成绩,MMAU 得 71.8%、Video-MME(无字幕)得 69.1%。 对一批录音、视频或 PDF 同时做合规检查、事实接地校验,不必逐条生成,这条能力是 Jev 和 OpenAI 的同类接口目前给不了的。知乎

不过,成绩单要分开读。官方对照的共 9 项评测里,Gemini Decision 1 在 7 项分数最高,包括在以 Jev 命名的 JevBench 上拿到 92.2%,比 Jev 1.14 的 90.0% 高 2.2 个百分点。 但落后的两项恰恰是 Mind2Web Multimodal(86.2% 对 86.8%)和 When2Call(79.9% 对 82.0%)——前者是网页智能体操作任务,后者考察何时调用工具,都是离 Agent 最近的场景。知乎

第三方机构 Artificial Analysis 给出的决策指数是另一幅画面:Gemini Decision 1 综合得分 66 分,与 Jev 1.14 打成平手,超过了 OpenAI 和微软的决策模型,但排在榜首的 Nace.AI 的 Drex Max v1.1 和 Fastino 的 GLiDE v1.2 都是 73 分,比它高 7 分。 按同一家机构的全套评测成本口径,Gemini Decision 1 每完成 100 万个任务要花 345 美元,而分数更高的 Drex Max 只要 103 美元,不到它的三分之一;即便在谷歌自己的对照表里,三家都有成绩的 7 项评测总花费,Jev 1.14 的 0.68 美元也略低于 Gemini Decision 1 的 0.88 美元。厂商自测与第三方口径尚未拉平,选型时这两组数字都得摆在桌上。知乎

边界同样要说清:它只处理预先给定选项的封闭式问题,“怎么改”“怎么回复"这类开放式任务仍然归生成模型,选项里还得提前备好"无法确定"这类兜底项,否则错判会被流水线原样放大。可得性上,目前它只在 Gemini 开发者 API 的 v1beta 上线,OpenRouter 首日已同步上架,谷歌云侧支持官方口径为"即将到来”。哔哩哔哩

把时间线拉长看,这更像一场快速成形的"决策层"竞赛的最新一格:9 月 TypeSafe 的 Jev 立起品类后,微软 10 月上线了基于通义千问 Qwen3.5-9B 后训练的 Microsoft-Decision-1,它不写文章也不聊天,只做一件事:给定几个选项,快速判断该选哪个,并给每个选项打一个概率分。 10 月 22 日,蚂蚁数科也发布了面向产业场景的决策模型 LingDT-Decision-1.0。 目前市面上已有 100 款以上决策模型挤在同一条赛道上。 谷歌这次押注的不是"判断最准",而是多模态输入、批量并行加自家分发渠道的组合。接下来值得盯两个信号:第三方评测能否把谷歌从"打平 Jev"推到真正的榜首,以及谷歌云支持落地后,这场按次计费的价格战会不会打到微软 0.042 美元每百万 token 的档位上。微博知乎知乎

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章