約束先於判斷：如何設計讓 AI 自主運作、又不敢偏離願景的系統開發工作流

核心張力：自主性 vs 願景對齊

在 AI 時代，讓 AI 在軟體開發各階段主動提出方案是合理的目標。但真正的挑戰不是「讓 AI 做多做少」，而是如何在減少人工觸點的同時，避免系統方向偏離人類願景。

核心解法是建立一套「約束先於判斷」的工作流：人類負責定義邊界與評分規則，AI 在邊界內自主運作，僅在觸及硬性約束或方向性風險時才回傳給人類決策。

實踐框架：六個設計原則

1. 預先將願景編碼為約束條件，而非僅停留於目標描述

每次評估方案時才對照「願景」是低效的。應一次性將願景轉譯為可執行的硬性約束與加權優先級，並以 persistent system prompt 或專案憲法（project constitution）的形式提供給 AI。

模糊的目標描述	建議編碼方式
「幫助業務前進」	列出前三大業務 KPI 與門檻，例如：p99 延遲必須降低 20%，且基礎設施成本增幅不得超過 5%
「化解阻力後再前進」	建立阻力清單：現有技術債、團隊瓶頸、客戶痛點，任何方案都必須處理或明確說明
「不要偏離方向」	制定北極星架構文件：已核准的設計模式、禁用技術、未來 12 個月內不可變動的介面

若 AI 方案違反硬性約束：自動拒絕或標記為需人工審查。
若 AI 方案僅在約束內進行權衡：無需人工介入即可推進。

2. 採用分層治理模型

並非所有決策都需要同等程度的人工審查。依風險等級將方案路由到不同處理層級：

層級	範例	人類角色
戰術層	模組重構、功能旗標、依賴更新	零人工審查：AI 提出、執行、回報指標
結構層	資料模型變更、新增服務邊界	非同步檢查點：AI 自動回答三個核心問題，並標示與專案憲法的偏差
戰略層	單體轉微服務、雲端遷移、平台替換	強制人工審查，但 AI 需預先將方案整理為決策備忘錄格式

3. 戰略提案使用「決策備忘錄」格式

面對大型升級，不應讓 AI 傾倒一份完整設計文件。強制其壓縮為以下結構：

賭注（The Bet）：用一句話說明本次方向性變更是什麼、為何現在要做。
約束檢查：明確列出觸及、違反或強化了哪些專案憲法約束。
阻力化解：解決了哪些現有阻力？引入哪些新阻力？如何緩解？
回滾 / 中止條件：在哪些可觀察條件下應撤銷此決策？
預先回答人類問題：AI 需預先回答你習慣提出的三個核心問題，並針對本案調整內容。

閱讀備忘錄後，若預答令人滿意即可核准；若感覺不對，只需提出一個針對性問題，無需從零重建邏輯。

4. 將三個核心問題轉為可重複評分準則

「問三個問題」的直覺是對的，因為它強迫壓縮。但要規模化，需將其轉為 AI 自我評分的固定量表。

問題	真正檢驗的維度	通過 / 失敗標準
這是否有助於 [具體成果]？	目標對齊	方案是否直接推進前三大 KPI，還是僅為干擾？
這是否讓系統向前推進？	技術債軌跡	變更是否降低複雜度，或新增的複雜度可由 10 倍能力增益合理化？
這是否化解了前進阻力？	組織 / 營運可行性	是否移除已知瓶頸（如部署痛苦、團隊認知負荷），而非新增瓶頸？

要求 AI 在每個維度自評 1 至 5 分。
只有當任一分數 ≤ 2，或論證薄弱時，才需要人類介入。

5. 為方向性提案實施「影子模式」

在人工核准大型升級前，先讓 AI 以影子模式執行：

程式碼層：在分支上產生升級結果、執行完整測試套件、產出 diff 摘要。
架構層：針對過去事故進行模擬，或執行「預先檢討（pre-mortem）」——讓 AI 反過來論證自己的方案為何會失敗。
業務層：讓 AI 進行紅隊演練，對照專案憲法列出方案偏離原始願景的前三種方式。

人類只接收衝突摘要，而非原始輸出。

6. 重新定義人類在此工作流中的角色

若設計得當，人類不再是「讀完所有內容的審查者」，而是：

約束的策展者：高投入、每季一次，定義專案憲法。
例外的裁判者：低投入、僅在 AI 標記低分或違反約束時介入。
準則的校準者：根據結果回饋調整評分標準，例如上次核准的升級是否真的化解了阻力，若沒有則收緊條件。

應用於大型系統升級的具體流程

針對「可能導致方向偏離的大型系統升級」：

提案前

確認 AI 已具備專案憲法與阻力清單。

提案中

要求 AI 產出決策備忘錄。
要求 AI 進行自我評分。

提案後

你的三個問題應已在備忘錄中被預先回答。
你的任務不是現場構思問題，而是驗證 AI 的預答。
若預答合理，一次性核准。
若預答不足，提出一個針對性反對意見，讓 AI 重新提案。

目標狀態

從「人類讀完所有內容再提問」轉變為「人類閱讀一頁備忘錄，驗證預先給出的答案」。