這正是 AI 治理中最核心的「囚徒困境」。如果不加約束,各家公司只會陷入無限度加速的軍備競賽;但若只有單一實驗室自主減速,確實面臨被趕超的風險。要破解這個難題,目前國際間正朝向三大方向努力:
- 統一的客觀安全檢測機制: 透過跨國與第三方機構建立嚴格的安全門檻,讓模型升級前必須通過具備公信力的測試。
- 政府強制力的外部稽核: 將各大公司的內部自律規範法制化,讓「不合規就不能發表」成為業界共同遵循的鐵律。
- 資安防禦能力的共享: 將最強大的 AI 能力優先用於強化整體網路安全防禦,確保即便有未經審查的模型出現,整體社會也有足夠的抵抗力。
自願減速並非停止創新,而是藉由短暫的踩煞車爭取時間,建立跨國、跨企業的防護網。