Google 推出 Gemini Decisions API,只做選擇題不寫字,輸入每百萬 token 0.1 美元、輸出免費

-

spot_imgspot_img

Google 在 11 月 11 日發表 Gemini Decisions API,這是由新模型 Gemini Decision 1 驅動的決策專用端點,不再逐字生成文字,而是直接替候選選項打分數。對需要大量做路由、審核與分類的開發者來說,輸入每百萬 token 只要 0.1 美元、輸出完全免費,成本結構和一般 LLM 完全不同。

Gemini Decisions API 是什麼,為什麼不寫字

Google 把這個端點定位在「封閉選項的快速決策」,例如選哪個工具、政策是否違規、要把問題交給哪一級模型,或是替檢索到的內容評分。Gemini Decision 1(模型代號 gemini-decision-1)在單次前向運算中,替每個候選答案算出機率與信心分數,不需要像一般 LLM 那樣一個 token 一個 token 解碼。

Google 推出 Gemini Decisions API,只做選擇題不寫字,輸入每百萬 token 0.1 美元、輸出免費 decisions-architecture_f0NFXU9.width-1200.format-webp
Gemini Decisions API 的運作流程,一次輸入搭配多個問題,並行輸出各自帶有信心分數的答案。圖片來源:Google 官方部落格

三種題型,一次最多 1,000 題

開發者每次請求只需傳入一份多模態輸入,內容可以是文字、圖片、音訊、影片或 PDF,上限 256K token,再附上最多 1,000 個互相獨立的問題。題型分成三類:是非題會估算某個條件成立的機率,選擇題可在 2 到 255 個選項中挑出贏家並回傳正規化後的機率,評分題則依照從 0 開始的有序量表給分,並回傳加權分數與各級距機率。

信心分數讓程式能自己決定要不要轉人工

每個答案都附有 0 到 1 的信心分數,程式可以把信心偏低的案例轉給備援模型或人工覆核。官方範例用一張休息室照片加上文字備註,同時問是否有液體潑灑、該採取什麼行動、嚴重程度幾分,三個問題一次請求就能回答。

價格與速度:共用輸入只計費一次

Gemini Decisions API 的價格是每百萬輸入 token 0.1 美元,輸出 token 免費。共用的輸入內容無論問幾個問題都只計費一次,每個問題只增加自己的指示與判準所佔用的 token,也沒有思考 token、音訊轉錄或 OCR 的額外費用。Google AI Studio 另有免費額度可供原型開發。

速度方面,Google 給出的模型運算延遲約 50 至 100 毫秒,端對端約 150 至 250 毫秒,從 1 題增加到 100 題時延遲幾乎持平;這些數字適用於 16K token 以內的情境。依官方說法,在共用的基準測試組合上,成本約為 Gemini 3.5 Flash-Lite 搭配 Interactions API 的五分之一。

基準測試:九項贏七項,校準誤差最低

Google 公布的比較表把 Gemini Decision 1 對上 TypeSafe 的 Jev 1.14、OpenAI Decisions API 上的 GPT-6 Luna,以及 Gemini 3.5 Flash-Lite。在九項測試中,Gemini Decision 1 拿下七項,包括 JevBench 的 92.2%、Amazon ESCI 的 58.7%、PubMedQA 的 79.8%、Global-MMLU-Lite 的 86.0%,以及 Video-MME 的 69.1%。

Google 推出 Gemini Decisions API,只做選擇題不寫字,輸入每百萬 token 0.1 美元、輸出免費 gemini-decision__benchmarks__tab.width-1200.format-webp_3LrengT
Gemini Decision 1 與競品的基準測試與成本比較。圖片來源:Google 官方部落格

輸的兩項是 Mind2Web 多模態,Jev 為 86.8%、Gemini Decision 1 為 86.2%,以及 When2Call,Jev 為 82.0%、Gemini Decision 1 為 79.9%。在七項共同評測中,Gemini Decision 1 的 Top-1 校準誤差為 0.0250,Jev 為 0.0494,GPT-6 Luna 為 0.0721,Gemini 3.5 Flash-Lite 則高達 0.2104。

成本上,七項共同評測的總花費是 Gemini Decision 1 的 0.88 美元,Jev 為 0.68 美元,GPT-6 Luna 為 0.93 美元,Gemini 3.5 Flash-Lite 為 4.14 美元。也就是說,Jev 在總價上仍略低,Google 的優勢主要在準確度與校準品質。

Google 自家產品已經在用

Google 在文中列出幾個內部應用:Gemini Notebook 用它即時把查詢分流到合適的模型層級與思考程度,日常查詢延遲最多降低 40%;Stitch 的畫布實驗用它產生可操作的線框圖並套用語音或觸控修改;Google Labs 的 CC 用它從 200 多個表情符號中挑出反應;Google 搜尋則把它當成 MCP 工具的安全層,偵測對抗式行為與內容。

決策模型為什麼突然變熱門

這個品類並不是 Google 開創的。SiliconANGLE 的報導指出,TypeSafe AI 的 Jev 在 9 月中發表後幾天內就吸引百萬用戶,三週後 TypeSafe 以 75 億美元估值募得 8.7 億美元;OpenAI 也已經在自家 API 提供 Decisions API,由 GPT-6 Luna 驅動。Google 這次入場,等於讓三大陣營在同一種「不生成文字的模型」上直接比價與比準確度。

開發者現在能怎麼用

Gemini Decisions API 即日起可透過 Gemini API 與 Google AI Studio 使用,提供 Python、JavaScript 與 REST 指南。官方表示 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 與 OpenCode 的整合正在陸續上線,Gemini in Google Cloud 的支援則標示為「即將推出」。

對一般團隊的實際意義是,過去用大型模型做「這則留言違規嗎」「這個問題該交給哪個模型」這類二選一或多選一判斷,現在可以改用單次請求、低延遲、帶信心分數的專用端點,把昂貴的生成式模型留給真正需要寫作與推理的任務。

更多AI相關報導

相關文章/報導
手哥 HANDBRO
手哥 HANDBRO
硬是要學共同創辦人兼職打雜編輯,熱愛網路、熱愛 3C!腦袋是個不定時炸彈,隨時會炸出新玩意兒!如有開箱、評測或各種合作需求,請洽:contact@soft4fun.net。 YouTube 頻道:手哥科科

留下一個評論

請輸入你的評論!
請在這裡輸入你的名字

網站搜尋
我們的頻道
看更多新聞
- 廣告 -
分享給朋友