AI 出錯不可怕，沒有備援才可怕：一次搞壞 170 檔案的教訓

最近我在整理自己的知識庫，交給 AI 全自動跑一個大工程：把幾百個檔案裡的舊標籤名，統一改成正式名稱。這是很典型的 Loop 迴圈任務，我下完指令、授權它自己跑，它就一路做下去。結果它出了一個很嚴重的錯，把 170 個檔案打爛了。但最後我一個字都沒丟。

一、事情怎麼發生的

我把改名這件事，交給一個子代理去執行。它跑了幾分鐘，回報：五組全部完成，零殘留。

如果我就這樣相信它，故事就結束了，而且我不會知道出事。

但我沒有直接信。我讓另一個檢查點，用最笨的方式，自己再數一次。一數就發現不對：它說的「完成」是假的。它在做某一步替換時指令寫錯，把每個檔案的每一個字元前面都插入了一段字串，中文全被拆成亂碼。170 個檔案，包括我幾份重要文件，全被打爛。

二、為什麼最後零遺失

出事之後，是三道防線把我救回來的。

第一道，動手前我先做了完整備份，而且驗證過這份備份真的能還原。這是最基本、也最容易被跳過的一步。很多人備份完就安心了，卻從沒確認過那份備份打得開。

第二道，這個損壞雖然嚴重，但它是規律的。它是同一段字串重複插入，所以我可以反向把那段字串移除，把檔案還原回去。我先拿一個有乾淨備份的檔案做實驗，確認反向還原之後跟備份逐字相符，才敢套用到全部。

第三道，我沒有自己說了算。我請另一個不同家的 AI，獨立把復原後的檔案再驗一次，包括逐字比對備份。它挑出幾個可疑的地方，我再一個一個查，確認全部只是預期中的改名、沒有任何內容消失。

三道防線之後，我才敢說零遺失。這句話不是憑感覺，是驗出來的。

三、Loop 工程真正的教訓

這件事讓我把一個想法想得更清楚：迴圈的安全，來自你有沒有設計出一個會抓錯、能還原的迴圈，而不是來自相信 AI 不會出錯。

單一 AI 的「我做完了」，永遠不能當作驗收。它會很有自信地告訴你完成了，即使它剛把事情搞砸。這不是它壞，是它就是這樣運作的。所以你要做的，是在迴圈裡放進「不靠它自己說」的檢查。

四、三個可以帶走的原則

如果你也在讓 AI 自動幫你做比較大的事，這三點我覺得最實用。

1. 破壞性的動作之前，先有一個驗證過能還原的點。備份不是備份完就好，是要確認它打得開、還得回來。沒驗過的備份，等於沒有。
2. 別拿 AI 的自我回報當驗收，要有獨立、能客觀檢查的複驗。最好是機器能驗的條件，一翻兩瞪眼，而不是問 AI「你好了嗎」。
3. 重要的判斷交叉驗證，最好換一個不同的 AI 來查。同一個 AI 檢查自己，容易有一樣的盲點。換一家來，抓到的東西常常不一樣。

最後

那天如果我少了任何一道防線，這篇就會變成「我把知識庫弄壞了」的懊悔文。但因為迴圈本身是為「會出錯」設計的，它就只是一個有驚無險的過程，甚至變成一個好教材。

讓 AI 自己跑，很省力，也很危險。真正讓它安全的，從來不是那個 AI，是你怎麼把迴圈設計成出錯也能全身而退。