成本與消耗量能同步大幅下降,背後主要是硬體運算架構與模型思考效率兩大改良帶來的成果:
- 稀疏混合專家架構(MoE)壓低了單次運算負擔:模型整體參數雖然達到驚人的 2.4 兆,但在處理每一個 Token 時,只會動態挑選並啟動最專精該問題的 710 億參數。這種「精準派工」的機制讓雲端伺服器在維持旗艦級推理能力時,硬體功耗與算力損耗大幅降低,廠商因此能提供極具競爭力的 API 價格。
- 邏輯規劃能力提升,減少了「廢話與無效嘗試」:新一代模型在任務拆解的策略上更加精煉,能用更少的對話往返直擊問題核心。它不需要在輸出中鋪陳大量無意義的自我反覆推敲,也不會在呼叫工具時反覆傳入無效參數。在終端與工作評測中少消耗近半數 Token,正是因為它懂得「直奔目標、做對就停」,省下了繁瑣的試錯成本。