今天,我们推出Gemini Decisions API,这是一个用于快速闭集决策的新端点,由全新的Gemini Decision 1模型(#gemini-decision-1)驱动,可通过Google AI Studio中的Gemini #API使用。Decisions API为工具选择、策略检查、模型路由和上下文分级等有界选择提供了专门构建的原语。你可以传入一个多模态输入(涵盖文本、图像、音频、视频和PDF,最高256K token)以及最多1,000个独立问题。Gemini Decision 1不会逐token生成答案文本,而是在单次前向传播中对候选选项进行评分,返回概率和置信度分数,端到端延迟为150-250毫秒,输入token价格为每百万0.10美元,且输出token不计费。
在涵盖智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1在整个套件中领先,并具有最低的校准误差。Gemini Decision 1在不进行逐token解码的情况下对选项评分,在多模态输入和高达16K token的上下文中,模型计算的中位延迟保持在50-100毫秒(端到端150-250毫秒),并且每请求1到100个问题时几乎保持平坦。由于输出token不计费,在共享基准套件上,使用Decisions API的Gemini Decision 1比使用Interactions API的Gemini 3.5 Flash-Lite便宜近5倍。基于Gemini原生多模态架构,Gemini Decision 1可以在一次传递中处理三种决策类型的原生多模态评估。
【AgentUpdate 深度解析】Gemini Decisions API的推出标志着AI #Agent基础设施从“生成式”向“决策式”的关键转折。传统LLM API以文本生成为核心,而Decisions API将闭集决策抽象为原语,直接输出概率分布,这极大降低了Agent循环中的延迟和成本。与OpenAI的Structured Outputs或Anthropic的Tool Use相比,Gemini Decision 1在单次前向传播中同时处理最多1000个问题,且支持多模态输入,这为复杂Agent工作流(如多工具路由、策略合规检查)提供了近乎实时的决策能力。其校准误差最低,意味着Agent可以更可靠地依赖置信度分数进行自我修正或升级。从生态角度看,这可能会催生一类新的“决策层”中间件,Agent框架(如LangChain、CrewAI)可以集成该API来替代部分LLM调用,从而优化成本与性能。长远来看,决策API与生成API的分化将推动Agent架构向更模块化、更高效的方向演进,使实时多模态Agent成为可能。


