能力提升卻更便宜,主要源於「推論效率(Inference Efficiency)」與架構設計的重大突破。這可以從兩個層面來理解:
- 思考路徑更精準(少說廢話):新一代模型在理解複雜指令時,不再需要繞一大圈來推導或輸出冗長的邏輯過程。更精準的思考意味著它能用更少、更關鍵的 token 數 解決問題,直接節省了計算量。
- 快取機制與運算調校進步:研發團隊優化了快取讀取(Cache Read)與算力調配,讓重複讀取背景資料的成本大幅下降 60%。再加上硬體優化,讓模型能在更少算力消耗下維持頂級表現,最終回饋到使用者身上的便是顯著下降的帳單費用。