問題 3 / 5
交給 AI 執行多步驟的複雜任務時，要如何下指令才能防止它「自行加戲」或濫用權限？
AI 根據文章內容回答
要防範 AI Agent 在長流程任務中發生越權或偏離目標，關鍵在於預先設定明確的指令邊界與中斷機制。在撰寫 Prompt 或規劃工作流時，可以掌握以下三個核心原則：
- 定義明確的停止條件（Stop Conditions）：不要只給模糊的大方向，必須清楚指定「達成什麼具體結果後立即停止」，例如：「找到 3 份合適的資料並整理成表格後即結束，切勿自行進行下一步發送郵件」。
- 採行最小授權原則：僅提供任務剛好需要的工具與資料庫權限，絕不給予高於必要的系統存取權。
- 設置關鍵關卡（Human-in-the-loop）：對於刪除資料、對外寄信、轉帳付款等不可逆或具高影響力的操作，強制加入「需經人類手動確認才能繼續」的指令門檻。