這種趨勢反映了 AI 應用正從「泛用對話」走向「實用自動化(Agent)」的關鍵轉變:
- 企業端對營運成本的極度敏感:大型旗艦模型雖然聰明,但 API 呼叫成本極高,無法負擔企業每天數百萬次的自動化流程。開發者需要的是「夠聰明且便宜」的模型。
- 測試思考時間(Test-time Compute)的突破:過去提升 AI 能力靠增加模型參數(訓練成本高);現在的技術能讓輕量模型在推論時「多想幾秒、多查幾次資料」,用極低的架構成本達到接近大模型的推理水準。
- 自主代理(Agent)場景爆炸:未來的 AI 任務多為多步驟自動執行,如寫程式、抓漏洞、改報表。這類任務需要模型頻繁呼叫工具,輕量模型的高速度與低單價正是 Agent 普及的最佳催化劑。