Google 發佈 Gemini Decisions API 以加快 AI 決策速度

·作者 Henderson·Engineering
Google 發佈 Gemini Decisions API 以加快 AI 決策速度
重點
  • Gemini Decisions API 旨在快速做出預先定義的決策。
  • 開發者可提交多種問題,並同時處理多類型數據。
  • 該模型在基準測試中表現超過競爭對手系統。
  • Google 的技術能提高自動化系統的速度和效率。

Google 已推出 Gemini Decisions API,此新端點由其 Gemini Decision 1 模型提供支援,旨在幫助人工智能代理快速做出預先定義的決策,而無需生成冗長的文本回應。該介面允許開發者在包含文本、圖片、音頻、影片及 PDF 的共享多模態輸入中,同時評估多達 1,000 個獨立問題。Gemini Decision 1 並非逐字生成回應,而是在單次前向過程中對預定選項進行打分,並以 150 到 250 毫秒的端到端延遲返回概率和信心分數。

Google 表示,該模型專為有限任務而設計,例如選擇工具、檢查政策合規性、將查詢路由至正確的模型及進行背景評分。

開發者可以在單次 API 調用中提交是或否的檢查、多達 255 個選項的多選問題,或根據預定標準進行的評分請求。根據 Google 的說法,該 API 提供的模型計算時間中位數為 50 到 100 毫秒,當每次請求處理 1 到 100 個問題時,性能幾乎保持不變。該模型支持最多 256,000 個標記的上下文窗口,並可同時處理多種類型的數據。這使得開發者可以結合音頻錄音、圖片和文檔等輸入,而無需依賴單獨的處理系統。

模型性能與競爭對手比較

Google 還聲稱,該模型在涵蓋代理路由、推理、排名和多模態理解的基準測試中,表現超過競爭對手系統,同時實現最低的校準誤差。該公司表示,Gemini Decision 1 的成本幾乎是 Gemini 3.5 Flash-Lite 的五分之一,並使用其共享基準套件的 Interactions API。此次推出恰逢專門 AI 決策工具競爭日益加劇。OpenAI 在十月推出了其 Decisions API,該 API 由其 GPT-6 Luna 模型驅動。

該公司表示,該服務能以最多 10 倍的速度提供決策,並支持每次請求最多 400 個問題。與 Google 的產品類似,該 API 提供基於概率的檢查、多選選擇和基於標準的評分,定價從每百萬個輸入標記 US$0.10 (約 HK$1)起。

Decisions API 的成本為每百萬個輸入標記 US$0.10 (約 HK$1),且對輸出標記不收費。開發者僅需為共享輸入數據支付一次費用,無論評估多少問題,儘管每個問題都會增加指示和標準標記。Google 已經在其多個產品中部署該技術,證明專門的決策模型可以提高自動化系統的速度和效率。在 Gemini Notebook 中,該 API 將來自各方的查詢路由至合適的模型層級和推理水平。

根據 Google 的說法,這種方法可以將日常查詢的延遲降低多達 40%,同時將更強大的推理模型保留用於複雜任務。

多種應用場景與整合

該技術還在 Google 的 Stitch 平台中驅動快速設計實驗,使用戶能夠生成互動式產品線框,並通過語音命令或觸控輸入進行更改。同時,Google 的 CC 助手利用該 API 在一瞬間從超過 200 個選項中選擇表情符號反應。Google 搜尋也在使用該技術作為安全層,以檢測涉及模型上下文協議(MCP)工具的對抗行為。除了這些應用外,該 API 還可以幫助開發者構建自動選擇適當工具、評估進來的資訊及判斷何時需要人工幹預的系統。

Decisions API 現已通過 Google AI Studio 提供,包括一個免費的原型設計層級。Google 還正在為開發者平台如 OpenRouter、LangChain、Vercel、LiteLLM 和 Pydantic AI 推出整合服務。

Gemini Decisions API 的市場競爭力

隨著 AI 決策工具的需求增長,Google 推出的 Gemini Decisions API 以其高效能和多模態處理能力,顯示出其在市場上的競爭優勢。此 API 不僅能快速處理大量問題,還能在多種應用中提升自動化系統的效率,對於開發者來說,這意味著能更靈活地應用於不同的場景。此外,該技術的成本效益也將吸引更多開發者採用,進一步擴大其市場影響力。

H
關於作者
Henderson