RAG 管線是 iPAS 初級科目一與中級科目四(生成式 AI 應用與規劃)的高頻考點。常見考法:完整流程——文件切塊(chunking)→ Embedding 向量化 → 存入向量資料庫 → 查詢時用餘弦相似度檢索 Top-K → 把檢索內容與問題組成 Prompt → LLM 生成並附引用。RAG 的價值:減少幻覺、補足私有知識、可查證、不必重訓。易混點:RAG 與微調的差別(查資料 vs 改權重);chunk 太大或太小都會傷檢索;查詢與文件要用同一個 Embedding 模型;向量資料庫只管相似度搜尋。情境題長相:「內部知識庫每週更新,希望 AI 助理回答都有出處,應採?」答 RAG。
想練情境題與詳解 → AI 學習與考證地圖
檢索增強生成:回答前先從知識庫檢索相關內容、附進提示再生成。解決知識過時與幻覺問題,且不必重新訓練模型。
整份長文件直接檢索不精準、雜訊多;切成小段後語意對齊更好、引用更精確。chunk 大小與重疊量是關鍵參數。
文字先轉成 Embedding 向量,用餘弦相似度等距離衡量語意遠近;向量資料庫負責在海量向量中快速找出最近鄰(Top-k)。
知識常更新、要能引用來源→RAG;要改變模型的風格與行為→微調。兩者常常並用。
要求附引用、控管檢索品質(文件版本、重排序)、限制只依據檢索內容回答、無把握時回答「不知道」。