強大的程式碼寫入能力是一把「雙刃劍」,既能幫忙補漏洞,也能用來製造無解的攻擊武器。資安領域一直存在著「防禦者與攻擊者跑得誰快」的時間差問題。
Google 透過「Fairwind 計畫」優先發布給受信任的防禦者,主因包含:
- 修補未知漏洞:讓防禦人員利用強大 AI 提早找出關鍵基礎設施或醫療軟體中的重大的隱藏漏洞(如文中提到的實例)。
- 建立安全沙盒經驗:在模型具備極高自主能力前,先於封閉環境中測試思維鏈監控機制。
- 避免攻擊技術濫用:確保防禦陣營獲得對應的防守工具後,再逐步開放 API 給一般大眾,降低整體網路生態的風險。