問題 3 / 5
為什麼具備嚴格安全審查的 AI 模型，初期仍可能被拿來開發攻擊性軟體或執行輿情監控？惡意使用者是如何繞過過濾機制的？
AI 根據文章內容回答
這是由於生成式 AI 具備「雙重用途（Dual-use）」的本質，加上安全防護機制在面對複雜語境時存在判讀極限。惡意使用者通常運用以下幾種手法避開警示：
- 情境偽裝與角色扮演（Jailbreaking）：透過指令要求 AI 扮演「學術研究員」、「資深輿情分析師」或「防禦性資安專家」，運用合法合規的專業術語包裝真實的攻擊意圖。
- 模組化拆解任務：惡意使用者不會直接要求 AI 產出「電子戰軟體」，而是將龐大的系統拆解成 16 個看似獨立且標準的物理模型計算、演算法優化與 UI 設計元件，讓安全過濾器無法在單一對話中察覺異狀。
- 利用技術的合法重疊性：電磁波計算、數據結構化與新聞摘要本身皆屬於標準的科技開發需求，AI 安全機制在初期很難直接辨識這些程式碼背後真正的軍事或情報用途。