問題 3 / 5
打算用這個模型來建立自動化代理（Agent）或執行電腦操作時，最容易遇到哪些地雷？該怎麼提前預防？
AI 根據文章內容回答
在引進 AI Agent 執行多步驟自動化時，開發者最常碰到的三大雷區分別是「工具失效陷入死循環」、「權限過大導致誤操作」以及「報告不透明」。預防做法如下：
- 建立防呆機制與失敗重試上限：當 Agent 嘗試操作軟體或呼叫 API 遇到錯誤時，容易產生幻覺繼續嘗試無效動作。必須在系統設計中加上強制冷卻機制，規定「最多嘗試 3 次，若失敗必須停止並回報」。
- 落實沙盒隔離（Sandbox）：讓 Agent 執行 GUI 電腦操作時，務必在獨立的虛擬機環境中運作，並針對刪除檔案、發送信件等敏感權限設定人工審查機制（Human-in-the-loop）。
- 強制輸出思考過程與異常回報：善用模型改善後的對齊能力，要求 Agent 必須在執行每一步前記錄原因，並設定「工具異常時必須主動告知使用者」的嚴格指令。