真正成熟的 AI 多特工系統，不是永遠不犯錯，而是能快速發現偏差、保留證據、限制損害並安全恢復。
自我修復的起點不是更強模型，而是明確基線、完整紀錄、可逆操作與人工接管邊界。
▋ Belief：自動化不等於自治，更不等於可靠
很多企業看到 AI 特工能讀資料、呼叫工具、產生內容，就以為只要把更多任務串起來，系統便會自動進化。這是一個危險誤解。流程越長、工具越多、權限越大，錯誤也越可能在無人察覺時被放大。
一個特工可能引用過期資料，另一個可能誤解任務，第三個則把錯誤結果寫入下游系統。如果每一步都只回報「完成」，管理者最後看到的只是漂亮的綠燈，而不是任務是否真的正確。
可靠的 AI 系統，不是沒有錯誤；而是錯誤能被看見、被限制、被復原。
因此，「自我發現」不是特工突然產生自我意識，而是系統能比較預期與實際結果。它知道正常完成時間大約在哪個範圍、輸出必須包含哪些欄位、資料量不應突然歸零，也知道連續失敗幾次後必須停止。
「自我修復」也不是遇到任何問題就無限重試。若權限設定錯誤、來源資料已損壞，或任務本身不安全，重試只會增加成本與風險。真正的修復流程應先分類故障，再選擇重試、切換替代方案、回復上一版本，或交由人工判斷。
素材提出以紀錄、追蹤、指標與自動化閉環支撐多特工演進，方向合理；但原始摘要沒有提供完整架構、測試數據或可驗證案例。因此，本文將它視為設計原則，不把「持續進化」包裝成已被證明的萬能功能。
▋ Desire：企業要的不是炫技，而是可交付的可靠性
企業主真正關心的問題很直接：任務失敗時誰會知道？錯誤資料有沒有被寫入正式系統？重跑會不會重複寄信或重複扣款？模型成本是否失控？如果主要服務中斷，關鍵工作能否繼續？
這些問題與模型排行榜無關，卻決定 AI 能不能進入真實營運。企業需要的不是一個看起來像人類的聊天介面，而是一套能被管理、被稽核、被暫停、被恢復的工作系統。
要做到這件事，至少需要四層能力。第一層是可觀測：每次任務留下時間、輸入來源、處理步驟、輸出位置與錯誤。第二層是判定：以基線與驗收規則區分正常、異常及需要人工覆核。第三層是恢復：採用安全重試、替代路徑或版本回復。第四層是治理：限制權限、成本、資料範圍與可自動執行的動作。
沒有驗收規則的自動化，只是把判斷責任藏進看不見的程式裡。
自我修復最值得追求的效益，不是完全省掉人力，而是縮短發現與恢復時間。原本要等客戶投訴才知道的故障，可以在輸出異常時立即攔截；原本需要工程師翻找數小時的問題，可以透過任務識別碼追溯完整路徑；原本可能擴散到數百筆資料的錯誤，可以在第一筆驗收失敗時停止。
這就是投入產出比的核心。與其追求昂貴、複雜、全自動的多特工展示，不如先保護最常發生、最昂貴或最傷害信任的三種故障。可靠性投資應該從風險最高的流程開始，而不是從技術最炫的功能開始。
▋ Intention：用六個元件建立最小自我修復閉環
第一個元件：定義成功與失敗
每個任務開始前，都要有明確的完成條件。例如文章流程不能只檢查「有輸出檔案」，還要檢查標題、網址、內容長度、連結有效性與敏感資料；資料同步不能只看請求成功，還要比對新增筆數、重複比例與目的地狀態。
若成功無法被機器或人工明確判定，特工就無法真正自我檢查，只能宣稱自己已完成。
第二個元件：建立正常基線
記錄任務平常的完成時間、處理數量、錯誤率、模型用量與人工退回原因。基線不必一開始就精密，可以先用最近十次人工確認的成功任務作為參考，再持續更新。
基線的作用不是追求完美數字，而是讓異常有比較對象。當平常處理五十筆資料的任務突然只剩零筆，或五分鐘完成的工作突然持續四十分鐘，系統就應該提出警示。
第三個元件：讓每個任務可追蹤
為每次執行建立唯一任務識別碼，串起輸入來源、每個特工的決策、工具回應、輸出產物與驗收結果。紀錄必須足以回答「哪一步開始偏離」，但不得無限制保存個資、憑證或完整敏感內容。
在隱私要求較高的流程，可以保存摘要、雜湊或去識別化欄位，而不是把所有原始資料寫進日誌。可觀測性與隱私不是二選一，關鍵在於只記錄診斷所需的最小資訊。
第四個元件：把重試變成受控策略
只對暫時性網路錯誤、服務忙碌或可預期的逾時進行有限次重試，並加入等待間隔。若是權限拒絕、資料格式錯誤、驗收失敗或安全規則阻擋，應立即停止，避免把同一錯誤放大。
任何會寄信、發布、付款、刪除、覆寫或修改客戶資料的動作，都應設計冪等控制、預覽差異與人工確認。修復不能以製造第二次事故為代價。
第五個元件：準備替代路徑與回復點
模型服務不可用時，可否切換到較低成本的備援模型？外部平臺中斷時，可否先將任務保存到本地佇列？新版本產生異常時，可否回到上一個已驗證版本？這些替代路徑不必處理所有情況，只要先保住關鍵流程。
對重要資料採取先備份、後變更；對內容發布採取先草稿、後公開；對批次工作先用少量樣本驗證，再逐步放大。可逆性，是自動化系統最便宜也最有效的保險。
第六個元件：設定人工接管邊界
遇到來源衝突、敏感資料、成本超標、連續失敗、低信心輸出或不可逆操作時，系統必須停止並提出清楚的差異與選項。人工接管不是自動化失敗，而是成熟治理的一部分。
- 可自動處理：暫時性逾時、已知且可逆的格式修正、低風險備援切換。
- 需要人工覆核：資料來源互相矛盾、結果影響客戶權益、模型無法說明依據。
- 必須立即停止：權限異常、成本快速上升、敏感資料外洩風險、任何未授權的破壞性動作。
▋ 從單一流程開始，不要一口氣打造自治王國
選一條每週會執行、失敗成本明確的流程，例如內容產出、課前資料整理或例行報表。先畫出輸入、處理、驗收、輸出與失敗處置，再加入任務識別碼、三項基線與一個人工接管點。
接著連續觀察十次執行：哪些警示真的有用、哪些只是噪音、哪些失敗可以安全自動修復、哪些必須交給人。當這條流程穩定後，再把相同模式複製到下一條。這種小步演進，比一次建立龐大多特工架構更省成本，也更容易建立信任。
如果您希望把散落的知識、重複工作與資深人員經驗，建成一套可觀測、可恢復、有人機治理邊界的 AI 工作系統，立即預約 AI 系統健檢。
