問題 4 / 5
無人機蜂群完全由 AI 自主接管運作，在實際執行任務時要如何防止 AI 誤判或失去控制？
AI 根據文章內容回答
為了確保 AI 主導的蜂群安全運作，國防科技通常採用雙重安全機制與邊界限制，避免系統「脫序」或造成不必要的戰損：
- 地理圍欄與作戰邊界限制：在 AI 程式中設定嚴格的數位邊界（Geofencing），一旦無人機偏離指定空域或超出通訊範圍，系統會自動切換為返航模式或原地盤旋。
- 人在迴路（Human-on-the-loop）監督：雖然部署與隊形維持由 AI 自主控制，但最終的攻擊行動或防衛開火決策，依然需要後方指揮官透過通訊數據鏈進行最終授權（Man-in-the-loop）。
- 故障安全與降級防護（Fail-safe）：當遇到強烈電磁干擾或與蜂群母體斷聯時，單機具備自主降落、定點漂浮或安全毀密機制，防止技術落入敵手。