Retrieval-Augmented Generation — 從問題到回答的 7 步旅程
RAG 就像「開書考試」：
完整流程：問題 → Embedding → 向量搜尋 → Rerank → 組合 Prompt → LLM 生成 → 回答
解法：加 Reranker 精排、改善 Chunking 策略、Query Rewriting
解法：增量索引（只更新變動部分）、分段更新
解法：GraphRAG（知識圖譜檢索）、多跳推理
RAG(檢索增強生成)讓 LLM 回答前先撈外部知識,是 iPAS 生成式 AI 高頻考點(初級科目二、中級科目一)。重點:文件切塊、嵌入入向量庫、查詢時相似度檢索最相關片段、連同問題餵給模型生成,能減少幻覺、可附來源、更新知識庫即更新答案。易混點:RAG 不改模型權重(與微調不同);知識常變或要可查證時用 RAG,切塊與檢索品質決定答案品質。情境:法遵、客服、企業知識庫問答。
想練情境題與詳解 → AI 學習與考證地圖
索引階段：文件切塊、轉成嵌入、存入向量資料庫；查詢階段：問題轉嵌入、檢索最相關片段、連同問題餵給 LLM 生成有依據的答案。
塊太大會混入無關內容、超出上下文；太小會切斷語意。好的切塊(適當大小加重疊)直接影響檢索品質與答案正確性。
好的嵌入模型、合適切塊、混合檢索(關鍵字加向量)、重排序(re-ranking)、查詢改寫、用 metadata 過濾。
多半在檢索端——沒撈到正確片段(切塊差、嵌入弱、查詢不準)；生成端再強也救不回沒檢索到的資訊。
只要更新或重建向量庫(新增或重嵌入文件)，不必重訓 LLM，即可讓系統用到最新或新增的知識。