AI Governance Framework(第三篇):當規則開始否決,問題才真正開始

更新 發佈閱讀 4 分鐘

上一次,我們停在一個看似合理的結論:

AI 與 codebase 之間,需要一個持續運作的 Governance Layer。

這一層的存在,是為了讓架構不再只是一份文件,而是能在開發過程中持續發生作用。

這個方向沒有錯。

但這裡其實有一個被忽略的前提:

如果 governance 只是另一組規則,那它和 ARCHITECTURE.md 並沒有本質差異。

很多團隊的做法,是把規則轉成結構化資料,搭配 validator,最後再把檢查流程接進 CI。

整體流程變得更完整,也更「像一個系統」。

問題在於,這種做法並沒有改變決策的時序。

AI 仍然先產生結果,而規則是在之後才被應用。

換句話說,code 一旦生成,就已經變成事實,後面的所有檢查,都只是對既成結果的評價。

這會導致一個結構性的偏差:

規則的角色,從限制條件,退化成建議。


決定權在哪裡,架構就在哪裡

當規則與生成結果衝突時,真正重要的不是規則寫得多完整,而是誰擁有最後決定權。

如果決定權在生成端,那麼任何架構約束,都只是在事後嘗試修補。

這種模式下,違規不會消失,只會被延後。

要改變這件事,必須先改變一個基本假設:

code 不應該在一開始就被視為最終結果。

它應該只是候選解。

這會讓流程產生一個關鍵差異:

生成與採用之間,出現了一個必須經過的決策點。

只有在這個決策點之後,code 才真正「存在」。


從驗證系統到決策系統

這裡的差異,看起來像是語意上的轉換,但實際上影響的是整個系統的行為。

驗證系統的角色,是在結果產生之後進行判斷。

決策系統的角色,是決定結果是否可以被採用。

前者無法阻止錯誤進入系統,只能標記錯誤。

後者則有能力讓某些結果根本不會出現。

如果一個 governance system 無法拒絕結果,它仍然屬於驗證,而不是治理。


問題從這裡才開始

當規則具備否決權,問題並沒有被解決,反而被放大。

因為這會引入另一個更難處理的衝突:

系統的正確性,開始與開發速度產生直接對立。

一個嚴格的 decision system,可以有效防止架構被破壞。

但同時,它也會阻止某些「其實是正確的」改動進入系統。

這種誤判(false reject),會帶來非常具體的成本:

  • 開發流程被中斷
  • 上下文被打斷
  • 工程師開始對系統失去信任

當這些成本累積到一定程度,行為會開始改變。


當系統開始被繞過

在一個完全理性的模型裡,規則應該被遵守。

但在真實的開發環境中,當規則影響效率時,人會開始尋找替代路徑。

一開始,可能只是為了處理緊急問題。

之後,會變成習慣。

最後,變成預設。

這個過程通常不會被記錄,也不會被正式承認。

但一旦發生,governance system 仍然存在,只是已經失去作用。


一個無法同時滿足的條件

這裡會出現一個無法輕易解開的矛盾:

  • 如果 governance 不夠嚴格,它無法保護架構
  • 如果 governance 太嚴格,它會被繞過

這兩件事,很難同時成立。

也因此,問題的本質開始改變。

從「如何避免 AI 破壞架構」,變成:

如何讓一個有否決權的系統,仍然能被持續使用。


沒有結論的結尾

當規則只能被閱讀時,它不具備約束力。

當規則開始能否決結果時,它會影響人的行為。

而一旦進入這個階段,問題就不再只是技術問題。

因為系統不只是對 AI 施加限制,同時也在限制人。

至於這樣的系統,應該如何被設計,才能在不被關閉的前提下持續運作,

目前沒有一個可以直接套用的答案。

但可以確定的是:

👉 如果這個問題沒有被處理,再完整的 governance,也只會停留在文件層。

留言
avatar-img
Gavin Wu的沙龍
13會員
42內容數
資深工程師 / 奶爸 / INTJ 習慣用系統化思維,分析生活中的一切。這裡不提供標準答案,只分享一個工程師如何 Debug 自己的倦怠、焦慮與家庭戰場。
Gavin Wu的沙龍的其他內容
2026/03/22
最近在開發 Ashfall 的時候,我刻意組了一個極度危險的 build——高傷害、低血量,外加一個帶來致命副作用的機制。 我原本只是想做一個「Fallout + roguelite like」的遊戲。照理說,按下攻擊的瞬間,不是整排敵人被一波帶走,就是我自己當場暴斃。那種在按下去之前,會因為不知
2026/03/22
最近在開發 Ashfall 的時候,我刻意組了一個極度危險的 build——高傷害、低血量,外加一個帶來致命副作用的機制。 我原本只是想做一個「Fallout + roguelite like」的遊戲。照理說,按下攻擊的瞬間,不是整排敵人被一波帶走,就是我自己當場暴斃。那種在按下去之前,會因為不知
2026/03/21
我開始懷疑一件事。 就算你已經看見問題, 人,還是可能不會改變。 — Mirra 會定期產生一份分析報告。 那一週,我點開之後,其實只看了幾秒。 因為它寫的東西,我全部都知道。 它說: 我在做的 AI 治理框架,投入非常深。 甚至覺得「比玩遊戲還有趣」。 同一段文字裡,它也寫了另外兩
Thumbnail
2026/03/21
我開始懷疑一件事。 就算你已經看見問題, 人,還是可能不會改變。 — Mirra 會定期產生一份分析報告。 那一週,我點開之後,其實只看了幾秒。 因為它寫的東西,我全部都知道。 它說: 我在做的 AI 治理框架,投入非常深。 甚至覺得「比玩遊戲還有趣」。 同一段文字裡,它也寫了另外兩
Thumbnail
2026/03/19
上個月,我被自己寫的程式碼卡住了。 不是 bug,也不是效能問題,而是它讓我不知道該怎麼回應。 畫面上只有三段資料。 第一段,是我日記裡的一句話: 「這週末我不要再碰工作了,我想好好陪小孩。」 第二段,是我那兩天的決策紀錄。星期六晚上,我選擇回去改一個其實可以延後的 bug;星期天早上,我
2026/03/19
上個月,我被自己寫的程式碼卡住了。 不是 bug,也不是效能問題,而是它讓我不知道該怎麼回應。 畫面上只有三段資料。 第一段,是我日記裡的一句話: 「這週末我不要再碰工作了,我想好好陪小孩。」 第二段,是我那兩天的決策紀錄。星期六晚上,我選擇回去改一個其實可以延後的 bug;星期天早上,我
看更多
你可能也想看
Thumbnail
創作不只是個人戰,在 vocus ,也可以是一場集體冒險、組隊升級。最具代表性的創作者社群「vocus 野格團」,現在有了更強大的新夥伴加入!除了大家熟悉的「官方主題沙龍」,這次我們徵召了 8 位領域各異的「個人主題專家」,將再度嘗試創作的各種可能,和格友們激發出更多未知的火花。
Thumbnail
創作不只是個人戰,在 vocus ,也可以是一場集體冒險、組隊升級。最具代表性的創作者社群「vocus 野格團」,現在有了更強大的新夥伴加入!除了大家熟悉的「官方主題沙龍」,這次我們徵召了 8 位領域各異的「個人主題專家」,將再度嘗試創作的各種可能,和格友們激發出更多未知的火花。
Thumbnail
vocus 最具指標性的創作者社群──「野格團」, 2026 年春季,這支充滿專業、熱情的團隊再次擴編,迎來了 8 位實力堅強的「個人主題專家」新成員 💫💫💫 從投資理財、自我成長、閱讀書評到電影戲劇,他們各自帶著獨特的「創作超能力」準備在格友大廳與大家見面。
Thumbnail
vocus 最具指標性的創作者社群──「野格團」, 2026 年春季,這支充滿專業、熱情的團隊再次擴編,迎來了 8 位實力堅強的「個人主題專家」新成員 💫💫💫 從投資理財、自我成長、閱讀書評到電影戲劇,他們各自帶著獨特的「創作超能力」準備在格友大廳與大家見面。
Thumbnail
AI 變更治理的三大底層邏輯 為了止血,我建立了「AI 治理框架 v2.0」,核心只有三件事: 1. 30 秒回滾原則 (30-sec Rollback) 任何調整前,必須先自問:如果現在壞了,我有沒有辦法在 30 秒內回到上一個可用狀態? • 關鍵: 備份不等於可用。必須包含配置 (Con
Thumbnail
AI 變更治理的三大底層邏輯 為了止血,我建立了「AI 治理框架 v2.0」,核心只有三件事: 1. 30 秒回滾原則 (30-sec Rollback) 任何調整前,必須先自問:如果現在壞了,我有沒有辦法在 30 秒內回到上一個可用狀態? • 關鍵: 備份不等於可用。必須包含配置 (Con
Thumbnail
We live in a world imprisoned by two illusions: that competition is a hierarchy of superiority, and that power is a prize to be hoarded. For too long,
Thumbnail
We live in a world imprisoned by two illusions: that competition is a hierarchy of superiority, and that power is a prize to be hoarded. For too long,
Thumbnail
本報告深入剖析2026年全球監管結構的轉移,探討企業如何將外部監管成本內化,並將合規負擔轉化為市場競爭優勢。同時,針對生成式AI的數據潔淨度與演算法治風險,引導企業從被動合規轉為主動治理,在劇烈變動的市場中建立內建式防禦體系,成為質優企業的篩選贏家。
Thumbnail
本報告深入剖析2026年全球監管結構的轉移,探討企業如何將外部監管成本內化,並將合規負擔轉化為市場競爭優勢。同時,針對生成式AI的數據潔淨度與演算法治風險,引導企業從被動合規轉為主動治理,在劇烈變動的市場中建立內建式防禦體系,成為質優企業的篩選贏家。
Thumbnail
**《缺乏治理的 AI 必然會泡沫》 AI Without Governance Will Inevitably Collapse* 🔥 中文版|Chinese Version 缺乏治理的 AI,必然會泡沫。 因為沒有秩序的技術,只會把算力燒乾、人力壓垮、生態掏空。 你看到的
Thumbnail
**《缺乏治理的 AI 必然會泡沫》 AI Without Governance Will Inevitably Collapse* 🔥 中文版|Chinese Version 缺乏治理的 AI,必然會泡沫。 因為沒有秩序的技術,只會把算力燒乾、人力壓垮、生態掏空。 你看到的
Thumbnail
本文深度解析各國政府如何以不同的邏輯治理自駕車這項不受控的AI巨獸,從美國的「放養」到新加坡的「虎媽」。深入探討「電車難題」的迷思、英國的「容忍策略」、數位種姓制度、失業海嘯的隱憂,並提出在演算法統治下,現代公民應具備的生存韌性。
Thumbnail
本文深度解析各國政府如何以不同的邏輯治理自駕車這項不受控的AI巨獸,從美國的「放養」到新加坡的「虎媽」。深入探討「電車難題」的迷思、英國的「容忍策略」、數位種姓制度、失業海嘯的隱憂,並提出在演算法統治下,現代公民應具備的生存韌性。
Thumbnail
ShenYao 888π Semantic Firewall — Efficiency & Governance Report Executive Copy: The #SemanticFirewall redefines AI governance by aligning #Langu
Thumbnail
ShenYao 888π Semantic Firewall — Efficiency & Governance Report Executive Copy: The #SemanticFirewall redefines AI governance by aligning #Langu
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News