讓 AI 具備「電腦操作」與「代理(Agent)」能力固然方便,但實際上手時最容易遇到
「無限迴圈」與「誤刪重要資料」這兩大雷區。預防方法如下:
- 建立沙盒隔離環境:切勿直接讓 AI 在你的真實工作電腦主機上執行命令。建議在 Docker 容器或虛擬機器中運行 AI 代理,就算執行了錯誤指令也不會影響本機系統。
- 設定「人工審核」閘門(Human-in-the-loop):針對高風險操作(如刪除資料庫、執行 git push 或變更系統設定),設定必須經過人類點擊確認才能繼續進行。
- 嚴格限制步驟上限與 Token 額度:為每一次代理任務設定最多嘗試次數(例如上限 10 次工具呼叫),防止 AI 在卡關時不斷重複嘗試而刷爆你的 API 帳單。