問題 4 / 5
在設定檔中把 model_auto_compact_token_limit 設在 90 萬而非滿額的 100 萬，這背後的緩衝機制運作邏輯是什麼？
AI 根據文章內容回答
這項設定的核心目的在於預防模型在生成程式碼的過程中「撞牆硬斷」。當模型的 Context Window 上限為 100 萬時，這個數值包含了「輸入（Prompt + 歷史紀錄）」與「輸出（AI 當下產出的程式碼）」的總和。如果將自動壓縮點設定在滿額的 100 萬，模型很可能在對話紀錄達到 99 萬時才嘗試運算，導致剩下的 Token 配額不足以印出完整的程式碼片段，造成輸出強制在中斷處卡死。
將壓縮門檻設在 90 萬，代表留出了 10 萬 Token 的安全緩衝區。當對話累積到 90 萬時，系統會自動將早期的對話提煉成精簡摘要，一口氣釋放出數十萬 Token 的空間，確保 AI 在生成大型模組程式碼時有足夠的發揮舞台。
將壓縮門檻設在 90 萬，代表留出了 10 萬 Token 的安全緩衝區。當對話累積到 90 萬時，系統會自動將早期的對話提煉成精簡摘要，一口氣釋放出數十萬 Token 的空間，確保 AI 在生成大型模組程式碼時有足夠的發揮舞台。