RAG 知識庫實戰：讓 AI 客服只根據你的資料回答
AI 客服最怕一本正經地亂回答。RAG（檢索增強生成）讓 AI 先查你的文件再回答，並附上來源。本文拆解 RAG 的運作流程、資料準備的眉角，以及查不到時該怎麼處理。
重點摘要
- RAG 讓 AI 先從你的文件裡找出相關段落，再根據這些段落回答，而不是憑記憶亂猜。
- 回答品質八成取決於資料：文件要最新、段落要切得有意義、同一件事只留一個正確版本。
- 每個回答都附上來源，查不到就老實說並轉給真人，是建立信任的關鍵。
- 上線後要持續看「問了但答不出來」的問題，補進知識庫。
「AI 客服會不會亂講？」這幾乎是每個想導入 AI 客服的老闆，問的第一個問題。
這個擔心很合理。大型語言模型的強項是「說得像真的」，但它並不知道你公司的退貨規定、最新價格或這週的出貨時程。問它不知道的事，它可能會編出一個聽起來很合理的答案 —— 這就是常說的幻覺（hallucination）。
**RAG（Retrieval-Augmented Generation，檢索增強生成）**是目前最實用的解法：讓 AI 在回答之前，先去你的資料裡找答案，再根據找到的內容回答，並附上來源。
RAG 怎麼運作？
RAG 分成兩個階段：事先準備資料，以及每次有人提問時即時查詢。
階段一：把文件整理成可以搜尋的片段
- 收集文件：產品說明、價格表、常見問題、退換貨規定、服務條款、過去的客服紀錄。
- 切成段落：把長文件切成一段一段（例如每段幾百字），每段講一件完整的事。
- 建立索引：用「嵌入模型（embedding）」把每一段轉成代表語意的向量，存進向量資料庫。語意相近的段落，向量也會相近。
階段二：有人提問時
- 檢索：把問題也轉成向量，找出語意最接近的幾個段落。實務上常搭配關鍵字搜尋一起用，型號、料號這類精確字詞才不會漏掉。
- 組合：把找到的段落和問題一起交給語言模型，並明確要求「只能根據以下資料回答，找不到就說不知道」。
- 回答並附上來源：AI 產生回答，並標出引用了哪幾份文件。
回答品質，八成取決於資料
很多 RAG 專案效果不好，問題不在模型，而在資料。以下是我們最常看到的四個坑：
- 同一件事有好幾個版本：舊價格表和新價格表都在知識庫裡，AI 不知道哪個才對。過期的文件一定要移除或標註。
- 段落切得太碎或太大：切太碎，一段話失去上下文（「如上所述」的「上」不見了）；切太大，無關內容太多，干擾判斷。依照文件的標題與段落切，通常比固定字數好。
- 表格與圖片沒有被讀進去：價格、規格常常藏在表格或圖片裡。要確認轉換時有正確讀出，必要時改寫成文字。
- 只寫給內部人看的縮寫：客人問「可以退貨嗎」，文件裡寫的是「RMA 流程」，檢索就可能對不上。可以在文件裡補上客人常用的說法。
查不到的時候，比查得到更重要
一個值得信任的 AI 客服，必須知道自己不知道。我們在設計時一定會加上這幾條規則：
- 找不到相關資料就不回答細節：改用標準說法，例如「這個問題我需要請專人確認，方便留下聯絡方式嗎？」
- 涉及金額、合約、醫療法律等高風險問題，一律轉真人。
- 每個回答附上來源：客人可以點開看原文，客服人員也能快速核對。
- 可以帶客人到對的頁面：與其長篇大論，不如附上「退換貨說明」頁面的連結，讓客人自己看完整規定。
RAG、微調、還是直接把資料貼給 AI？
想讓 AI 懂你公司的資料，大致有三種做法。它們不是互斥的，但各有適合的情境：
| 做法 | 怎麼做 | 適合 | 限制 |
|---|---|---|---|
| 直接放進提示 | 每次對話都把資料一起給 AI | 資料很少（一兩頁） | 資料一多就放不下，成本也高 |
| RAG | 先檢索相關段落，再交給 AI 回答 | 知識庫、客服、內部文件查詢 | 回答品質取決於文件與檢索 |
| 微調 | 用資料重新訓練模型 | 固定的語氣、格式、特定領域的判斷 | 成本高、更新慢、難以確認它「記得」什麼 |
對大部分的客服與知識查詢，RAG 是最實際的選擇：資料一更新就生效、每個回答都能追溯來源。只有在需要特定的寫作風格或非常專業的判斷時，才需要考慮微調，而且通常會和 RAG 一起使用。
一個 RAG 專案通常怎麼進行？
- 第 1 週：整理資料。盤點現有文件、找出重複與過期的版本、補上缺漏的常見問題。
- 第 2 週：建立索引與測試題庫。從過去的客服紀錄挑出 50–100 個真實問題，當作測試題。
- 第 3 週：調整與驗收。逐題檢查回答是否正確、有沒有附上正確來源、查不到時是否正確轉接。
- 上線後每週：看紀錄補資料。把答不好的問題補進知識庫，再用測試題庫確認沒有改壞其他回答。
「測試題庫」是很多專案忽略、卻非常重要的一步：它讓你每次修改知識庫之後，都能快速確認整體品質沒有下降。
上線之後：用數據持續改善
AI 客服上線不是結束，而是開始。每週花一點時間看這三件事，品質會穩定提升：
| 看什麼 | 代表什麼 | 怎麼改善 |
|---|---|---|
| 答不出來的問題 | 知識庫缺資料 | 補一篇文件或一則 FAQ |
| 被客人追問第二次的回答 | 回答不清楚或不完整 | 改寫原始文件，讓重點更明確 |
| 轉真人的比例 | AI 能處理的範圍 | 找出可以標準化的問題，逐步擴大 |
從哪裡開始？
- 先整理 10–20 份最常被問到的資料：價格、出貨、退換貨、營業時間、服務範圍。
- 把重複、過期的版本清掉，每件事只留一個正確答案。
- 先放在網站上試營運，後台保留所有對話，每週檢視答不出來的問題。
- 穩定之後再接上其他管道，例如 LINE 官方帳號。
RAG 不是什麼神秘的黑科技，它的本質是「先查資料再回答」—— 和一位負責任的新進客服一樣。把資料整理好，AI 客服就能 24 小時、用一致的口徑回答客人。想看看你的網站適不適合加上 AI 客服？歡迎參考我們的 AI 導入服務，或直接和我們聊聊。
