迴圈護欄

迴圈護欄:讓 AI 自動跑,又不跑出安全範圍的五條規則

駕馭工程管邊界,迴圈工程管改進。當 AI 開始一圈接一圈自動工作,你需要的是把兩個接在一起的東西:護欄。

發佈 2026-07-06 | 最後更新 2026-07-06

這篇在講什麼

AI 越來越能連續自動工作:跑完一步接下一步、自己派子任務、自己驗收自己。爽的地方是快,可怕的地方也是快:一個沒被挑戰過的錯誤判斷,會被後面每一圈放大。這篇整理我實際在用的五條迴圈護欄,它們把駕馭工程的邊界思維和迴圈工程的改進思維接在一起。

適合誰

· 已經讓 AI 自動連跑任務,開始擔心它「太順了反而可疑」的人
· 常把工作交接給第二個 AI 或子代理,發現交接後常走鐘的人
· 帶團隊用 AI 的主管:這五條也是給人類團隊的驗收語言

你會得到什麼

· 五條可以直接抄進自己規則庫的護欄
· 每條附可用句式或範例,貼上就能用
· 一個判斷習慣:看到熱門 AI 框架,怎麼吸收概念、用不著整套搬家

這五條護欄怎麼來的2026 年 7 月我審查了一個在海外走紅的開源 Agent 框架。雙模型審完的結論是:不安裝原專案,因為它的執行機制偏程式碼開發、還會改我的全域設定;但它的核心概念很好,我把能跨工具使用的部分萃取出來,變成這五條護欄。從新工具裡拿走最厲害的概念就好,整套搬家是學不完的。

五條護欄一覽

護欄 1未抗辯假設

沒被第二視角挑戰過的重大結論,只能標成假設,不能寫成事實。

護欄 2三視角抗辯

邏輯、失效、過度工程三個角度,輪流攻擊自己的結論。

護欄 3交接補兩欄

Non-goals 寫明不做什麼,允許路徑劃出能碰哪裡。

護欄 4換路煞車

同一方法失敗兩次就換路,不做第三次盲試。

護欄 5驗收證據分級

「看起來沒問題」不是證據。收工前先問:證據是哪一級?

使用時機大事才啟動

查時間、改格式這種小事直接做;重大結論、交接、高風險操作才上護欄。

護欄一:未抗辯假設,先標記再說

AI 給的重大結論(出錯的根因、架構方案、商業建議、安全判斷),在沒有第二視角挑戰之前,一律只能標示為「未抗辯假設」。它可能全對,但「還沒被挑戰過」本身就是重要資訊,寫成已確認事實,後面每一步都會在錯誤地基上蓋房子。

可用的寫法: 「未抗辯假設:目前看起來根因是……」 「單腦初判:尚未給第二個模型審過。」 禁用的寫法: 沒查證就寫「根因確定是……」 把推測直接寫進工作日記或規則檔,當成事實留下來。

這條護欄成本最低,效果最大:它讓後面接手的人(或 AI)一眼知道哪些話能踩、哪些話要先驗。

護欄二:三視角抗辯,輪流攻擊自己

抗辯用三個視角輪流看同一個結論,每個視角有自己的問題清單:

  • 邏輯視角(skeptic):這個結論是不是只靠單一證據?有沒有把相關當因果?有沒有忽略相反證據?驗收條件真的能證明結論嗎?
  • 失效視角(red-team):最壞情況是什麼?會不會碰到權限、金鑰、資料遺失、公開發布、金錢這些不可逆的東西?失敗了怎麼還原?有沒有看似可行但會放大風險的捷徑?
  • 過度工程視角(simplifier):有沒有更小的第一步?是不是把一次性任務做成了永久系統?能不能先用現有的工具和手動驗收完成?

一個重要的誠實標記:讓同一個 AI 自己扮演三個視角攻擊自己,叫「僅自攻」,聊勝於無;真正算數的抗辯,是拿給另一家模型審。同一家模型的子代理互審,仍然共享同一套盲點。

護欄三:交接包補兩欄,防止順手擴任務

把工作交給第二個 AI、子代理或下一輪自動任務時,交接說明常寫了要做什麼,卻沒寫不做什麼。執行者「順手多做一點」聽起來勤勞,在自動迴圈裡是事故的主要來源。所以每份交接固定補兩欄:

Non-goals(本輪不做什麼,至少一條): 不安裝外部工具、不改全域設定、不重寫既有架構。 允許路徑(白名單,沒列的預設禁止寫入): 可讀:整個專案資料夾 可寫:articles/ 下指定的三個檔案 可執行:唯讀的檢查命令

這兩欄我在自己的每一次派工裡都在用。以我自己的使用經驗,效果很直接:執行者的創意被引導到「把指定的事做好」,超出範圍會停下來問,走鐘的次數明顯變少。

護欄四:換路煞車,失敗兩次就轉向

AI 有一種很像人的壞習慣:同一個方法失敗了,再試一次,再失敗,再試一次。在自動迴圈裡沒人打斷它,它可以盲試一整晚。所以把煞車數字化:

  • 同一方法失敗 2 次:換路、升級工具,或停下來回報,不做第 3 次同路盲試。
  • 子代理交回實質錯誤 1 次:主控收回判斷,不讓同一個子代理盲跑第二輪。
  • 出現「應該可以」「看起來沒問題」「可能是」但拿不出證據:一律視為未驗證,不能當成完成收工。

數字定死很重要。寫「卡住就換方法」等於沒寫,因為 AI(和人)對「卡住」的認定永遠比實際晚。

護欄五:驗收證據分級,收工前問一句

迴圈的最後一步是驗收,而驗收最常見的造假(無意的)就是「我檢查過了」。所以驗收報告必須說明證據是哪一級,由強到弱:

  • 第一級 機器驗收:測試通過、腳本輸出、檔案存在、計數結果、部署狀態。
  • 第二級 資料複驗:逐段讀檔、來源對照、計數比對。
  • 第三級 跨家審查:另一家模型獨立審完的意見。
  • 第四級 人工目視或推論:只能當低強度證據,不能單獨支撐高風險的「完成」。
禁用證據清單「看起來沒問題」「應該可以」「我已經檢查過」但不說檢查方式,全部不算證據。還有一條容易忽略:子代理的回報本身也只是線索,主控要自己獨立驗收,AI 說做完了跟真的做完了,是兩件事。沒有證據時,誠實回報「已修改,未驗證」,比一個漂亮的「完成」有價值得多。

你可以怎麼開始:給下一個重要任務裝上護欄

用不著五條一次全上。挑你下一個重要任務(要交接的、會動到正式資料的、結論會被長期沿用的),照這個順序裝:

  1. 開工前:交接說明補上 Non-goals 和允許路徑兩欄。
  2. 過程中:跟 AI 約好換路煞車,同方法失敗兩次要停下來回報。
  3. 出結論時:要求標記「未抗辯假設」,再用三視角問它一輪,能跨家就跨家。
  4. 收工前:問一句「你的證據是哪一級」,第四級證據就再補一級。

跑順之後把這五條寫進你的規則庫或技能包,讓每一輪迴圈自動帶著護欄跑。迴圈出事時怎麼復原,另有一篇迴圈安全與復原可以接著讀。

迴圈護欄迴圈工程駕馭工程跨家審稿AI 驗收Agent 安全AI 工作流