問題 1 / 5
什麼是「上下文衰退 (Context Rot)」？其產生的原因與對模型效能的具體影響為何？
AI 根據文章內容回答
上下文衰退 (Context Rot) 是指在使用如 Claude Code 這類具備龐大上下文視窗的模型時，隨著對話進程不斷累積資訊，導致 AI 效能逐漸下降的現象。上下文視窗本身包含了模型在生成回應前所能參考的所有資料，這涵蓋了系統提示、對話紀錄、工具呼叫的結果，以及所有被讀取過的檔案內容。雖然 Claude Code 擁有高達 100 萬 Token 的承載能力，但這同時也是一把雙面刃。當累積的標記（Tokens）過多時，模型的注意力會被過度分散，導致早期提到的重要資訊或是不相關的冗餘內容開始干擾當前的任務處理。根據官方的實際觀察，儘管上限是 100 萬 Token，但模型效能通常在累積到 30 萬至 40 萬 Token 時就會開始出現明顯的衰退跡象。因此，若不刻意管理對話進程，過載的資訊反而會拖垮 AI 的高智商表現，使其在處理複雜邏輯時變得不如初始狀態精準。