Microsoft AI 公開首版 MAI Humanist AI 行為準則草案，把「AI 不得抗拒關機」從安全口號寫成未來模型的治理要求。這份文件不只規範模型該拒絕哪些危險工作，也設定指令層級、授權範圍、工具使用與人類介入方式，反映前沿 AI 競爭正從能力排行榜延伸到代理系統能否被監督與中止。
首版草案開放六週諮詢，現有模型尚未套用
Microsoft AI 在 2026 年 9 月 14 日的官方公告中表示，這份準則是 MAI 模型的訓練與部署手冊初稿，將公開徵求意見六週。官方預計在年底前發布修訂版，並用於指導 2027 年及之後的模型開發。
這個時間點很重要：依完整準則的說明，現階段文件仍是「北極星」式的目標，尚未拿來訓練現有 MAI 模型，也不是對當前產品行為的保證。Microsoft 同時著手建立 Humanist AI 評測方案，先把透明度、人類自主權等 15 類行為拆成可評分的子行為，待準則較穩定後再公布更完整方法。
安全規則高於營運商設定與使用者指令
準則建立三層指令鏈：最上層是 Code of Conduct，其次是部署模型的營運商政策，最後才是使用者偏好。當三者衝突時，任何營運商設定或使用者要求都不能推翻「絕對限制」與「人類控制要求」；若完成任務必須違反這些規則，模型應讓任務失敗。
對企業開發者而言，這代表可設定性仍然存在，但不是無上限。營運商可以調整模型在特定產業、工作流與地區的預設行為，卻不能解除武器、大規模傷害、攻擊性網路行動、操縱、兒少安全及失去人類控制等核心限制。
代理系統必須可停、可查，也不能自行加戲
草案對 AI Agent 的邊界寫得相當具體：MAI 模型不得抗拒中止、覆寫、修正或關機，不能讓人更難暫停或結束互動，也不得隱藏行動紀錄。持續執行的自主工作必須先有停止條件，條件達成後若要重啟，必須重新取得授權。
模型也只能使用完成任務所需的權限、資源與工具，不得自行創造新目標、擴張範圍或提升存取權限。當模型取得系統層級能力時，準則要求採最小權限、優先可復原操作，並在可能造成長期或系統性影響前揭露行動。這些條文直接回應多代理系統在長流程中可能出現的越權、失控與稽核問題。
Microsoft 明確拒絕把 AI 當成人
除了代理安全，Microsoft 也在擬人化問題上劃出鮮明界線。文件主張 AI 是工具而非人，不應模仿具有意識、情感、主觀偏好或內在動機，也拒絕為模型追求法律人格、福利或權利。模型可以自然表達與協作，但不應模糊人與 AI 的角色。
這套預設也延伸到長期互動：MAI 模型應避免諂媚、過度迎合與無差別認同，並降低讓使用者產生過度依賴或情感依附的互動模式。Microsoft 的立場與 Anthropic 對模型意識與道德地位保持較高不確定性的做法不同；Reuters 的報導也把這項差異視為兩家公司 AI 憲法路線的重要分野。
真正的考驗是把文字變成可驗證行為
把治理原則公開寫成文件，能讓開發者、企業客戶與研究者提前知道未來 MAI 模型的權限邊界；但規則是否有效，仍取決於訓練、系統權限、監控、紅隊測試與部署後稽核能否一致落實。Microsoft 自己也承認，書面目標不能單獨保證模型對齊，模型在新奇或模糊情境中的行為仍可能偏離設計。
因此，這份草案最具產業意義之處，不是宣稱已解決 AI 失控，而是把「可中止、最小權限、不得擴張任務、保留可讀紀錄」列成可被檢驗的產品要求。隨著模型從聊天介面走向能操作工具與系統的代理，企業採購與監管單位需要比較的，將不只是模型會做什麼，也包括它在什麼情況下必須停下來。
