拖拉到正確格子
RAG(檢索增強生成)是 iPAS 初級科目一與中級科目四(生成式 AI 應用與規劃)的高頻考點,這個遊戲要你把流程的每一站排對:Agent 判斷意圖 → 問題向量化(Embedding)→ 向量資料庫檢索(餘弦相似度取 Top-K)→ 相關度篩選 → 組裝 Prompt → LLM 生成回答。常見考法:問 RAG 解決什麼問題(減少幻覺、補足過時知識、提供可查證來源、不必重訓);問流程順序。易混點:RAG 是「推論時查資料」,微調是「改模型權重」;檢索品質差時 RAG 仍會產生幻覺。情境題長相:「公司想讓客服機器人依最新內規回答且附上出處,應採用?」答 RAG。
想練情境題與詳解 → AI 學習與考證地圖
使用者提問 → 問題轉成向量 → 到向量資料庫找最相似的文件段落 → 篩掉相關度低的 → 把文件與問題組成 Prompt → LLM 依據文件生成回答並附來源。
RAG 不改模型,回答前先檢索外部知識,適合知識常變動、需要引用來源的情境;微調會更新模型權重,適合改變語氣、格式或專業風格,但知識更新要重訓。
向量資料庫靠「語意距離」找資料,問題必須用與文件相同的 Embedding 模型轉成向量,才能算餘弦相似度、找出語意最接近的段落。
Top-K 決定取回幾段最相近的文件;門檻(例如 0.7)再把相似度不夠的剔除,避免不相關內容塞進 Prompt 誤導模型。
不能。若檢索到錯誤、過期或不相關的文件,模型仍可能答錯;RAG 只是大幅降低幻覺並讓答案可查證,仍需評估檢索品質與加上引用檢查。
切太大會超出上下文、噪音多;切太小會失去語境。常用固定長度加重疊、或依段落語意切塊,直接影響檢索命中率。