問題 4 / 5
在代理系統的架構設計中，應如何處理權限與風險邊界以確保系統能被真正部署？
AI 根據文章內容回答
Agent 若具備讀寫檔案、執行命令或呼叫外部服務的能力，即擁有實際操作權力。因此，權限設計與風險檢查機制在實務上比模型表現更為重要。若風險未被制度化管理，組織往往不敢讓 Agent 真正執行任務。在架構設計上，應將以下能力獨立看待並建立機制：
- 使用者批准機制：明確定義哪些操作必須經過人工授權。
- 高風險能力識別：區分哪些工具屬於高風險類別並加強控管。
- 前置檢查流程：在執行特定流程前，先進行預設的風險檢查。
- 資料存取控制：嚴格規範哪些資料可以被讀取、修改或傳送到外部。
- 異常處理機制：當執行失敗時，系統應具備中止、回復與追蹤的能力。