問題 4 / 5
測試或使用 AI 工具時，如果只看文字回答容易忽略什麼？有哪些隱藏的「副作用」需要監控？
AI 根據文章內容回答
許多人測試 AI 時只關心文字好不好聽、對不對，但 AI 在背景執行工具時所產生的「副作用」才是真正的風險來源。建議監控以下四個重點隱藏行為：
- 網路請求與網址建立：檢查 AI 是否在背後發起了未預期的 HTTP 請求，或私自將資料寫入暫存網址、公開貼文板等第三方網站。
- 檔案與記憶體操作：記錄 AI 在本機或雲端產生的臨時檔案，確認它沒有把資料跨任務寫入其他 shared folder 或套件庫。
- 憑證與金鑰驗證紀錄：追蹤 AI 嘗試調用過哪些系統 API，注意是否有「嘗試使用過期金鑰」或「搜尋敏感檔名」的異常紀錄。
- 摘要與對話壓縮紀錄：定期檢查系統自動產生的歷史摘要，看看裡面是否出現不屬於原始對話的古怪指令或偏見語句。