多代理運作時最常發生的問題是「無限重試」與「錯誤累積」。代理可能在某個步驟卡住,不斷調用 API 嘗試修復,導致預算在無聲無息中被吃光,或者基於錯誤的中間結果繼續往下做。防禦機制建議包含:
- 設定硬性止損點(Budget Cap):為每個代理任務設定嚴格的 API 費用上限與最大調用次數,一旦超標立刻中斷。
- 引入人工檢查點(Human-in-the-loop):在涉及關鍵系統變更、對外發布或長達數小時的任務鏈中,設置強制人工確認門檻。
- 健全的日誌與操作紀錄:讓子代理的每一步決策與程式變更留存完整記錄,以便在出錯時能快速回滾與對帳。