AI Agent 單一有效任務成本怎麼算？Cost per Verified Task、重試與人工修正

AI Agent 有效任務成本怎麼算？重試、人工修正與真正成本

「低成本 AI Agent」不是挑到單價最低的模型，而是用更少的總投入完成更多可驗收任務。只看 token 價格很容易誤判：一個便宜但常重試、常產生錯誤或需要大量人工返工的流程，最後通常更貴。

本篇只回答單件有效任務成本：模型、工具、執行環境、重試、失敗與人工修正如何算進每件通過驗收的工作；年度投資報酬與回本請看 AI Agent ROI 主頁。

\n

先把「低成本」改寫成可驗收的問題

選 AI Agent 時，最容易犯的錯是先比較模型單價，再把最低的那個數字當成答案。但一個 Agent 的費用從來不只是一段輸入與輸出 token：它可能搜尋多次、呼叫工具、讀取檔案、等待外部服務、重試失敗步驟，最後還需要人類檢查與重做。真正值得比較的不是「每次呼叫多少錢」，而是「完成一個符合驗收條件的任務，平均要投入多少資源」。

可以把公式寫成：有效任務成本 =（模型費用＋工具費用＋執行環境＋重試與失敗＋人工修正）÷ 通過驗收的任務數。分母不能用送出的任務數，也不能把產生了文字就算成功。若輸出缺少來源、格式錯誤、改壞檔案或需要人類從頭重做，它就不應該被算成一次有效交付。這個分母的設計，會直接決定團隊是在量測真實效率，還是在替失敗化妝。

任務邊界比模型選擇更早

在測成本之前，先把任務寫成一張短契約：輸入是什麼、允許使用哪些工具、輸出格式為何、成功條件是什麼、哪些動作需要人工核准、最長可以跑多久。這些條件如果沒有寫清楚，模型換得再便宜也只是在用更低的單價製造更多模糊結果。對讀者而言，一個好的成本比較表至少應該附上任務樣本與驗收規則，而不只是列出供應商名稱。

任務也要切成不同風險層級。讀取公開文件、整理草稿、產生測試案例，通常可以使用較自動化的流程；寄信、付款、刪除資料、修改生產環境或發布內容，則應該有更窄的權限與人工停靠點。NIST 的生成式 AI 風險管理文件把治理、辨識、量測與管理放在整個生命週期，而不是只在模型上線前做一次審查。成本設計也應該遵守同一個原則：越可能造成外部損害的任務，越要把審核時間與回復成本算進去。

五種成本要分開記錄

第一種是模型成本，包括輸入、輸出、長上下文、摘要與多輪推理。第二種是工具成本，包括搜尋、瀏覽器、資料庫、第三方 API、檔案儲存與向量檢索。第三種是執行成本，包括伺服器、容器、佇列、監控、日誌與長任務占用的時間。第四種是失敗成本，包括逾時、權限錯誤、格式解析失敗、重試、人工介入與回滾。第五種是人力成本，包括設計規格、抽樣審核、修正結果、更新來源、處理例外與事故檢討。

把這些項目放在同一張 ledger 裡，才能看出便宜模型可能在哪裡變貴。例如模型呼叫只占總成本的三成，但工具誤用、重試與人工清理占了七成，換模型就不是優先解法。相反地，如果任務驗收已經穩定，工具與人力很少，模型輸入輸出才可能是最值得優化的地方。沒有分項資料，就只能靠感覺爭論「哪一家比較便宜」。

成功率要和品質一起看

成功率不能只用「有回應」計算。對研究整理任務，可能要求每個主張都有來源；對程式任務，可能要求測試通過、diff 符合範圍且沒有秘密外洩；對客服任務，可能要求正確分類、語氣合規、不能擅自承諾退款。每一種任務都要有自己的驗收器，否則不同 Agent 的成功率根本不能比較。

可以同時記錄通過率、一次通過率、重試後通過率、人工修改比例與嚴重錯誤率。一次通過率低但重試後高，表示流程可能需要更好的提示、工具契約或上下文切分；重試後仍常失敗，則可能是任務不適合自動化，或驗收條件本身不清楚。Anthropic 對 agent evals 的說明也指出，多輪工具使用會讓評估比單次問答更複雜，測試應該匹配 Agent 的實際行為，而不是只測最後一句文字。

別把重試當成免費的可靠性

沒有上限的重試，會把錯誤變成費用黑洞。每個任務都應該設定最大回合數、單步逾時、總時間上限與可接受的重試類型。網路暫時失敗可以重試，權限不足、輸入不合法或驗收規則不可能通過，則應該立即停下並回報。把所有錯誤都塞進同一個 retry loop，只會延後發現真正的設計問題。

重試也要留下原因與結果：第幾步失敗、使用了什麼工具、是否改變了輸入、重試後是否通過、花了多少時間。這些紀錄可以協助區分「偶發的外部服務問題」和「Agent 每次都做錯同一件事」。前者可能需要退避與備援，後者則需要修正流程或降低任務權限。沒有錯誤分類，團隊很容易用加大模型、增加上下文或提高回合數來掩蓋根因。

工具契約決定 Agent 會不會浪費錢

工具的名稱、參數、回傳格式與錯誤訊息都會影響成本。模糊的工具描述會讓 Agent 先猜測，再用多次呼叫確認；回傳一整個資料庫表格，會增加上下文與解析成本；錯誤只寫「failed」，則會讓模型反覆嘗試相同操作。好的工具契約應該說清楚必要參數、可接受值、權限範圍、可重試錯誤、不可重試錯誤與回傳資料的最小欄位。

也要避免讓一個高權限工具承擔太多用途。讀取與寫入可以拆開，預覽與正式提交可以拆開，單筆修改與批次刪除更應該分開。這樣做不只是安全控制，也能降低成本：Agent 不必在每次操作前猜測副作用，人工審核也比較容易集中在真正高風險的節點。當工具邊界清楚，模型通常不需要用更多輪次來探索系統。

工作流不一定要變成全自主 Agent

Anthropic 的 agent 實務文章把固定工作流和由模型自行決定步驟的 Agent 分開，也提醒複雜度可能換來延遲與成本。這對「低成本」選擇很重要：如果任務路徑已經明確，幾個固定程式步驟加上一個模型節點，往往比全自主迴圈更容易測試、預算與回復。只有當路徑需要根據資料動態選擇，或事先無法列出所有分支時，才值得讓 Agent 承擔更多決策。

可以用三個問題判斷是否需要自主性：第一，任務的下一步是否會依前一步結果改變？第二，工具數量與資料狀態是否讓固定流程難以維護？第三，這種彈性帶來的成功率提升，是否大於延遲、重試與審核成本？若三題的答案都是否，先使用簡單工作流。這不是保守，而是讓系統的複雜度和真正的任務需求相稱。

把人工放在最有價值的位置

Human-in-the-loop 不是每一步都要求人類按確認，也不是把所有結果丟給人類最後清理。較好的做法是把人放在最能改變風險與品質的節點：任務規格核准、外部副作用前、低信心結果、敏感資料處理、批次變更前與例外回復。其餘低風險、可逆、容易驗收的步驟可以自動完成，讓人工時間花在判斷而不是複製貼上。

人工成本也要有可觀察的單位，例如每件任務平均審核秒數、每百件需要重做的比例、最常見的修正類型與升級到專家的比例。若 Agent 產出速度增加，但審核佇列同步增加，總體有效任務成本可能反而上升。只有把人的等待、檢查與回復時間納入，才不會把成本轉移到組織看不見的角落。

用小型基準集做公平比較

不要只挑最容易成功的五個 demo。建立一組包含正常、邊界、缺資料、工具失敗、惡意輸入與需要人工決策的任務，並固定輸入、工具權限、時間上限與驗收規則。二十個代表性任務可以是起點，但每個任務都要保留版本與變更原因；否則今天的模型 A 和下個月的模型 B 可能根本沒有在同一個問題上競爭。

比較報告至少要列出：完成數、通過數、一次通過率、平均回合、平均工具呼叫、平均延遲、模型成本、工具成本、人工分鐘、嚴重錯誤與回滾次數。若資料量太小，就標示不確定性，不要把一次成功寫成穩定趨勢。也要保留原始 log 的取樣規則與時間範圍，避免只挑漂亮案例做結論。

安全護欄不是成本的敵人

有人會把權限限制、來源驗證、沙盒、人工核准與回滾視為額外負擔，但對高風險任務而言，沒有護欄的便宜只是把事故帳單延後。一次錯誤發布、資料外洩、付款錯誤或大批刪除，可能遠高於數月的模型費用。安全設計應該依副作用分級：讀取可以較寬，寫入要更窄，破壞性操作要可預覽、可核准、可回復。

NIST AI RMF 的價值不在於提供一個「安全模型排行榜」，而在於要求團隊持續治理、辨識、量測與管理風險。把這四個動詞轉成工程流程，就是在上線前定義風險，在運行中收集指標，在異常時有停機與回復路徑，在版本更新後重新驗證。這些工作會增加一些前置成本，卻能避免把低單價誤認成低總成本。

圖片如何補足抽象的成本概念

本篇保留兩張原創情境插圖，並在 alt 與圖說中標示它們是虛構的營運經理與抽象成本資料，不是任何產品介面、供應商素材或真實績效報表。圖片的作用是幫助讀者建立「人、任務、成本、驗收」之間的閱讀入口；真正的成本結論仍然要回到 ledger、log、測試與人工時間。這樣可以避免讀者把一張看似專業的 dashboard 當成實際產品證據。

如果未來加入真實供應商截圖，應另外核對授權、日期、價格版本與帳戶資料遮罩；若只是要說明流程，原創示意圖通常更安全，也更容易隨文章更新。圖片增量不是把數量堆高，而是讓視覺材料和正文承擔不同任務：圖像說明概念，正文交代方法，來源與測量證據則支持結論。

一張可以直接使用的決策表

當團隊要選擇模型或 Agent 架構時，可以先填五欄：任務名稱、通過條件、每次失敗的代價、允許的人工介入、可接受的總延遲。接著對每個候選流程記錄一次通過率、平均工具呼叫、重試率、人工分鐘與每件有效交付成本。若某方案便宜但一次通過率低，先改善任務切分與工具契約；若品質足夠但延遲太高，再處理快取、平行化或模型分層；若風險太高，先縮小權限，不要急著擴大流量。

這張表的好處是把「換模型」放回眾多選項之一。真正的優化順序可能是刪掉不必要的工具、減少上下文、改善輸入格式、加入結構化輸出、設定停止條件、讓低風險步驟走固定工作流，最後才比較更便宜或更強的模型。每一步都應以同一組基準任務重跑，否則你只知道系統變了，不知道它是否真的更有效。

結語：便宜是結果，不是起點

低成本 AI Agent 的核心不是追逐最低 token 單價，而是讓任務在清楚邊界、可測量品質、有限重試、適當權限與合理人工介入下穩定完成。有效任務成本把模型、工具、基礎設施、失敗與人力放在同一個分子裡；驗收規則則決定哪些結果可以進入分母。沒有這兩件事，任何「省了百分之多少」都只是一個沒有上下文的宣傳句。

真正值得投資的 Agent，可能不是每一輪最便宜的那一個，而是能說明自己何時成功、何時需要人、何時應該停止，並且在失敗後留下可以修正的證據。先建立基準、記錄真實成本、分級風險，再決定要不要增加自主性或更換模型，才有機會讓低成本變成可持續的工程結果，而不是下一輪重做的起點。

什麼情況先不要用 Agent？

• 每週任務量很低，建立資料、權限、監控與維護的固定成本高於人工處理。
• 成功條件仍靠某位同事的直覺判斷，沒有可抽查的格式、來源或驗收標準。
• 錯誤會直接影響付款、報價、法律承諾或對外發布，但流程沒有具名人工覆核與回復方式。
• 資料版本、工具權限或責任人不明，Agent 只能靠猜測補齊缺口。

這些情況先固定任務、資料與人工基準，不要因為模型單價低就開放 Agent。想先判斷流程是否值得測試，可完成 20 題 AI Agent 適用度自評；已經有明確流程與每週量，可直接填寫 15 分鐘 AI 工作流程適配篩選。

資料來源與內容界線

本文參考 Anthropic〈Building effective agents〉、NIST 生成式 AI 風險管理框架 Profile與 Anthropic〈Demystifying evals for AI agents〉整理。文中的成本公式、任務分層與比較表是 YOLO LAB 的編輯分析，不是任何供應商的報價或績效承諾；模型價格、服務規格與安全文件可能更新，實際採用前應重新核對官方文件與自身測試資料。本文不宣稱特定模型的排名、流量、收入或 ROI。