AI 能直接做哪些事？人工確認從這 5 種動作開始

查詢、整理、擬草稿這類做錯了能復原的動作，可以讓 AI 直接做、留下紀錄；錢出去、大量對外發送、刪除與無法復原的動作、權限與帳號變更、批次修改這五類，先讓人確認。

很多團隊已經讓 AI 幫忙查訂單、整理客服信、擬好回覆。多數公司本來也有把關的習慣：退款要店長點頭、大額付款要老闆簽、修改匯款帳號要打電話確認。這些習慣很好，正是設計 AI 確認流程的起點。確認也不是越多越好。這篇先給兩句現在就能用的問法，再談門檻、確認畫面，以及怎麼做進系統。本文談的是營運規則；提示注入這類資安風險，請見 AI Agent 資安的做法。

先直接問 AI

把下面的句子貼給 ChatGPT、Claude 或 Gemini 這類 AI 助理，內容換成你自己的就好（範例都是示意）。

把動作分成三級

下面是我們後台和 AI 工具會做的動作：查訂單、擬客服回覆、寄出客服回覆、退款、群發 LINE 訊息、批次改商品價格、刪除訂單、修改收款帳號。請每一項回答兩個問題：做錯了能不能復原？影響有多大（只影響內部、影響客人，還是動到錢）？再分成三級：自動執行並留紀錄、人確認一次、加強確認（例如第二個人核准）。用表格列出，並替後兩級的動作各建議一個保守的門檻（金額或數量）。

整批確認一次：把今天的退款分成兩組

附件是今天的 12 筆退款申請（單號、客戶代號、金額、原因、這位客戶本月第幾次申請）。請分成兩組：金額 NT$3,000 以下、本月第一次申請、原因寫得清楚的，列為「可直接退」；其餘列為「請店長看」。再把「請店長看」那組整理成一則給店長的訊息：每筆一行，寫單號、金額和需要他看的原因。

AI 分的級和組都是建議：分級表由負責的人逐項看過；退款要核對兩組的筆數與金額加總和原清單一樣，退款還是由人在後台按下去。上傳前，用公司的企業方案，或先把客人姓名、電話換成代號，刪掉用不到的欄位。

現在就能做的 3 件事

1. 把會動手的動作列成表，分級並寫下門檻

打開一張 Excel 或 Google 試算表，列出所有會「動手」的動作：會改資料、寄東西、動到錢的都算，單純查詢不算。欄位可以是：動作、誰在做、能不能復原、影響範圍、現在由誰確認。每個動作問兩個問題：做錯了能不能復原？影響有多大？ 能隨時還原、只影響內部的，列為「自動執行、留紀錄」；會影響客人或金錢的，列為「人確認一次」；無法復原、金額大或會改到收款帳號的，列為「加強確認」，例如要第二個人核准。

門檻也寫在同一張表，例如退款多少錢以上要人確認，一開始寧可保守（下文有示意表）。上面第一句問法，可以先幫你排一版。

2. 用現有的工具先加上第二人把關

• 付款：很多企業網路銀行可以設定「經辦」與「放行」兩種角色，一個人建立轉帳、另一個人放行。
• 群發訊息：LINE 官方帳號的訊息可以先存草稿或設定預約傳送，讓另一位同事在送出前看過內容與對象。
• 修改匯款帳號：收到「改一下匯款帳號」的要求時，用原本留存的電話回撥確認，不要只回覆來信。

3. 記下每次確認，每月回頭看一次

在共用的試算表記下確認的日期、動作、誰確認、有沒有修改。每月回頭看：從來沒被改過的，可以考慮放寬；常被退回的，維持或收緊。

全部自動與全部確認，各會遇到什麼

全自動時，錯誤不容易被看見。 AI 判斷錯一次，系統就照做一次，而且以機器的速度重複，往往要等客人反映、月底對帳或庫存對不上才發現。

全部確認時，確認容易變成反射動作。 醫療界早就碰過：電子病歷跳出的用藥警示太多，醫師大多直接略過，連真正重要的也一起略過。美國衛生研究與品質局（AHRQ）稱之為「警示疲勞」，並把它視為重要的病人安全風險。

一個示意情境：一家網路服飾店讓 AI 直接核准瑕疵退款，月底對帳才發現，有位客人用同一張照片申請了四次；改成每個動作都要確認後，客服主管每天要處理兩百多個確認視窗。關鍵在確認放的位置。

法規也注意到了。歐盟 AI 法第 14 條要求高風險 AI 系統必須讓人能有效監督，條文特別點名「自動化偏誤」（automation bias），也就是過度依賴 AI 輸出的傾向，並要求人能不採用、推翻或撤銷 AI 的結果，也能讓系統停下來。一般電商或貿易公司的後台多半不屬於高風險用途（範圍與時程見 2026 年 AI 法規整理），但「看得懂、改得了、停得住」這個原則同樣適用。

五種要先讓人確認的動作

用前面的兩個問題檢查，以下五類動作幾乎都落在要確認的區域：

1. 錢出去：退款、付款超過門檻

退款、付款、發放折價券都是錢出去，退出去的錢很難要回來。小額可以自動，超過門檻就要人核准；也要看「累計」，單筆不大、一天退了幾十筆，也該停下來讓人看。

2. 大量對外發送：群發 Email、簡訊、LINE

寄給一位客人的信寫錯，可以道歉補救；寄給一千兩百位會員的優惠訊息價格打錯，就收不回來了，簡訊還要付費。收件人數超過門檻的發送，一定要人看過內容與名單。

3. 刪除與任何無法復原的動作

刪除客戶資料、作廢發票、取消已出貨的訂單，做了就回不去。能改成「封存」或「移到垃圾桶」的，先這樣設計；真的無法復原的，一律要人確認。

4. 權限與帳號變更

新增管理員、調整權限、修改收款銀行帳號，不直接動到錢，卻決定了之後誰能動錢、錢會進到哪裡。冒充主管或供應商要求「改一下匯款帳號」是常見的詐騙手法，這類變更要比一般確認更嚴格，並通知相關的人。

5. 批次修改：一次改很多筆

一次調整兩百個商品的價格、把三百筆訂單改成已出貨，每一筆也許都能還原，但數量一多，出錯的範圍就大。批次修改整批確認一次，執行前先存好還原點。

門檻怎麼設：金額、數量、信心值與例外

常用的條件有以下幾種，可以組合使用：

信心值要可信才有用：AI 說 0.9，在大量類似的判斷裡就要真的有九成是對的，這叫校準。怎麼用自己的歷史資料驗證、再決定門檻，可以參考 Jev 決策模型的做法。

好的確認畫面，要讓人五秒看懂

確認畫面的目的，是讓人在按下去之前看到實際會發生的事，而不是一句「確定要執行嗎？」。一張好的確認卡片至少要寫清楚：

• 誰提出、透過什麼：是哪位同事、內建的 AI 助理，還是外部的 AI 工具。
• 做什麼、影響幾筆：「秋季商品調降 10%，共 24 筆」比「更新商品」清楚得多。
• 修改前後對照：列出前幾筆的舊值與新值，其餘可以展開。
• 影響與費用：退多少錢、寄給多少人、簡訊費用多少、什麼時候生效。
• 能不能復原：寫出怎麼還原，或明白標示「這個動作無法復原」。
• 按鈕寫出動作：「確認修改 24 筆」比「確定」更不容易誤按。

還有一點很重要：人確認的，必須就是系統要執行的內容。確認之後，數量、金額或對象只要有任何改變，就要重新確認。

什麼時候可以考慮下一步

前面 3 件事用試算表和現有工具就能做。遇到下面這些情況，可以考慮把確認做進系統：

• AI 和自動化處理的量變多，確認靠人記得、靠訊息回覆，越來越難追。
• 希望 AI 直接改後台資料、寄出回覆、處理退款，而不只是擬草稿。
• 不只一個 AI 工具在操作同一個後台，例如內建的 AI 助理，加上透過 MCP 連進來的 Claude。
• 想要一份查得到「誰做的、誰確認的、透過什麼做的」的紀錄。

下一步：把確認與紀錄做進系統

確認要做在後台系統裡，不能只靠 AI 工具自己記得要問。可以分階段：先讓 AI 只查詢、擬草稿；再讓它提出修改、由人確認；紀錄裡從沒出錯的低風險動作，最後才改成自動執行。初期，現在的人工流程可以照舊並行。

要讓確認有效，次數就要少。四個做法可以在不放鬆把關的情況下，大幅減少要按的次數：

1. 整批確認一次：AI 擬好 5 則客服回覆，整批看過，按一次就全部寄出。
2. 只問例外：符合規則、信心夠高的自動處理，超出門檻或在例外清單上的才找人。
3. 最危險的變更要打字確認：例如修改收款帳號，要打出指定的字才能送出，避免順手一按。
4. 超過上限要第二個人核准：大額退款除了提出的人，還要負責人核准，最好透過另一個管道，例如簡訊驗證碼。

這些做法都用在我們做的後台裡。內建的 AI 助理 Xena AI 用登入者自己的權限做事；任何修改、寄出或刪除，都先顯示確認卡片，人按下確認才執行；一批客服回覆只要確認一次；修改商店的收款銀行帳號，要打出指定的字，並通知所有負責人；超過門檻的退款，會傳簡訊給負責人，核准後才會退。

確認擋不下所有的錯，所以每個動作都要留下紀錄，而且改錯了救得回來：

• 誰做的、透過什麼做的：同一筆修改，可能是同事在後台頁面按的、內建 AI 助理代為執行的，或外部 AI 工具透過 MCP 連進來做的。紀錄要分得出來，例如「管理者（經 Xena AI）」。在 Xena AI 的設計裡，Claude 等外部工具和後台頁面經過同一套權限與確認，改過的內容也能還原。
• 誰確認的、當時看到什麼：出問題時才查得到是畫面沒寫清楚，還是確認時漏看了。
• 修改前的版本：重要資料修改前先存還原點，改錯了可以回到原本的樣子。

人工確認不是不信任 AI，而是把人的注意力留給真正需要判斷的地方。想知道你的流程哪些可以交給 AI、哪些要留給人，可以先做一次免費的 AI 健檢，或參考我們的 AI 導入服務，也歡迎直接和我們聊聊。