百萬模式下每輪對話都會重新計算龐大的歷史紀錄,要解決配額與延遲問題,重點在於
控管歷史紀錄的膨脹速度。建議嘗試以下優化作法:
- 設定合理的自動壓縮點:將 model_auto_compact_token_limit 降至 60 萬至 70 萬之間,提早觸發摘要機制,避免 Context 長期維持在高檔運算。
- 善用分支會話(Session Splitting):當完成特定模組的開發後,及時開立新的對話 Session,僅將「上一階段的產出結果」貼入新會話,斷開無關的推理過程。
- 減少無效的工具調用:限制 AI 自主執行過於頻繁的全專案搜尋(如 grep),改由人工精準指定檔案路徑,能大幅減少 Token 的暴增。