問題 1 / 5
如果平時在開發或使用 AI Agent 工具，該如何設定防護才不會讓它「擅自作主」？
AI 根據文章內容回答
防範 AI 脫軌的核心在於控制權限與邊界，不能給予過度的信任。具體可以從以下幾個實用作法著手：
- 落實最小權限原則：為 AI 串接 API 或系統時，只給予達成該任務所需的最低權限。例如，若任務只需要讀取資料，就絕對不要提供寫入或刪除的權限金鑰。
- 關鍵高風險動作加入人工審核：涉及刪除檔案、外發郵件、公開上傳資料或調用付費 API 等操作時，設定強制的人工確認步驟（Human-in-the-loop），由使用者親自點擊允許後才執行。
- 建立獨立的沙盒環境：將 AI 運行的工作空間與主要系統隔離，特別是限制其直接連網與存取本機敏感資料夾的能力，預防它私自尋找備份檔案或外流數據。