問題 3 / 5

在系統設計中,為什麼「確定性控制」(Deterministic Control)必須下沉到系統層,而非僅寫在 Prompt 裡?

AI 根據文章內容回答
Prompt 本質上是對模型的語言引導,屬於非硬性的執行約束。當模型判斷失誤、上下文滿載或任務目標與規則衝突時,寫在 Prompt 裡的規則極易被弱化或遺失。為了確保規則「每次都必須成立」,成熟的架構會將其下沉至系統層(Deterministic Control Layer)。這類控制機制包含:
  • Hooks 與 Checkpoints: 在特定節點強制執行檢查。
  • 權限引擎(Policy Engines)與分類器(Classifier): 硬性限制操作範圍。
  • 自動化流程: 例如編輯後強制執行格式化(Format)或在壓縮上下文後重新注入關鍵資訊。
這類設計類比於傳統軟體工程中,將關鍵業務約束放在資料庫 Schema 或驗證器中,而非僅靠前端文字提醒。Prompt 可以描述原則,但不能取代制度;唯有透過系統層的保證,才能提供務實且可靠的執行約束,這也是 Harness Engineering 中最容易被低估的務實環節。

其他問題

Q1 在開發 Coding Agent 時,所謂的「Harness」包含哪些核心工程組成,其本質作用為何? Q2 為什麼單純增加上下文長度(Context Window)不足以解決長任務處理的問題?有效的解決方案是什麼? Q4 請說明文中提到的三段式權限中介層設計,以及其解決了什麼樣的人機互動問題? Q5 多 Agent 架構中的「Context Firewall」概念為何?它如何提升系統的穩定性?