💡一句話定義
想讓 LLM「更懂你的任務」，有三種做法，差別在你動的是哪一層：
提示工程（Prompt Engineering）＝動「輸入」：把指令、範例、格式要求寫進提示詞，模型本身一字不改。
RAG（Retrieval-Augmented Generation，檢索增強生成）＝動「脈絡」：先從你的知識庫檢索相關資料，塞進提示再讓模型回答。
微調（Fine-tuning）＝動「權重」：用你的標註資料繼續訓練模型，把風格、格式、行為刻進參數裡。
提示工程（Prompt Engineering）＝動「輸入」：把指令、範例、格式要求寫進提示詞，模型本身一字不改。
RAG（Retrieval-Augmented Generation，檢索增強生成）＝動「脈絡」：先從你的知識庫檢索相關資料，塞進提示再讓模型回答。
微調（Fine-tuning）＝動「權重」：用你的標註資料繼續訓練模型，把風格、格式、行為刻進參數裡。
記一個口訣：提示工程教它「怎麼做」、RAG 給它「看什麼」、微調改它「是誰」。
🤔為什麼需要三條路？因為它們解決的問題不一樣
把 LLM 想成一位剛到職的高材生：很聰明、什麼都懂一點，但不認識你的公司、不知道你的規矩，資料也停在他畢業那天（訓練截止日）。你有三種「帶新人」的方式：
📝提示工程：口頭交代
「用這個格式回、語氣要客氣、參考這三個範例。」零成本、馬上生效，但他腦中的知識不會因此更新，交代太長他也記不住（上下文長度有限）。
「用這個格式回、語氣要客氣、參考這三個範例。」零成本、馬上生效，但他腦中的知識不會因此更新，交代太長他也記不住（上下文長度有限）。
📚RAG：給他查資料的權限
把公司文件、FAQ、最新公告放進知識庫，他回答前先檢索再作答，還能附上出處。資料改了，答案立刻跟著改；但如果檢索不到或檢索錯，就會答錯。
把公司文件、FAQ、最新公告放進知識庫，他回答前先檢索再作答，還能附上出處。資料改了，答案立刻跟著改；但如果檢索不到或檢索錯，就會答錯。
🎓微調：送他去受訓
用幾千筆「你希望的問答範例」繼續訓練，他會內化你的語氣、格式、專業措辭。成本最高、要標註資料，而且學新東西時可能忘掉舊本領（災難性遺忘）。
用幾千筆「你希望的問答範例」繼續訓練，他會內化你的語氣、格式、專業措辭。成本最高、要標註資料，而且學新東西時可能忘掉舊本領（災難性遺忘）。
重要觀念：微調主要學的是「風格與格式」（how to say），不是塞「新知識」（what to say）。想讓模型知道「本季新產品價格」，正確做法是 RAG，不是微調——因為價格會變，每變一次就重訓一次太荒謬，而且微調後模型也不會「精準記住」每一個數字。
🎮互動：取捨決策器
點選你的任務需求，右邊會即時算出三種方法的適配分數、推薦方案與理由。下方長條圖則固定比較三者在成本、時效、可控性三個軸上的先天體質，被推薦的方法會亮起。
⚖️ Prompt / RAG / Fine-tune 取捨決策器
① 勾選你的需求
② 即時推薦
—
③ 三軸比較：成本低 / 時效性 / 可控性（分數越高越好，滿分 5）
提示工程RAG微調
📊比較表：六個面向一次看
| 面向 | 提示工程 Prompt Engineering | RAG 檢索增強生成 | 微調 Fine-tuning |
|---|---|---|---|
| 知識更新 | ❌ 不更新（只能手動貼進提示） | ✅ 換知識庫內容即生效，可即時 | ❌ 固定在訓練當下，更新要重訓 |
| 可追溯性 | △ 無來源，靠模型記憶 | ✅ 可附引用來源、可查證 | ❌ 知識融進權重，無法指出出處 |
| 成本 | 最低（人力寫提示）；提示變長推論費跟著漲 | 中（向量資料庫、嵌入、檢索系統維運） | 高（GPU 訓練、標註資料、再部署） |
| 所需資料 | 幾乎不用，幾個範例即可 | 一批文件（不需標註，但要清洗、切塊） | 數百到數千筆以上標註問答對 |
| 延遲 | 最低（但長提示會變慢） | 多一段檢索時間（通常數十到數百毫秒） | 低（模型直接答，不用額外檢索） |
| 幻覺風險 | 高：全靠模型記憶 | 較低：有依據可答；但檢索不到時仍會瞎掰 | 中：風格穩定，但事實類問題仍可能亂編 |
| 最擅長 | 快速試驗、格式與語氣的輕度調整 | 企業知識問答、客服、需要引用來源的場景 | 固定風格／格式／領域措辭、特定任務輸出 |
🔧微調再看細一點：全參數 vs PEFT / LoRA
「微調」其實還分兩種做法，差在你改了多少參數：
| 面向 | 全參數微調 Full Fine-tuning | PEFT / LoRA 參數高效微調 |
|---|---|---|
| 改什麼 | 模型全部權重都更新 | 凍結原模型，只訓練一小組附加參數（LoRA：在權重旁加兩個低秩矩陣） |
| 訓練參數量 | 100%（70 億參數就是 70 億） | 通常 0.1%～1% |
| GPU 記憶體 | 很大（要存全部梯度與優化器狀態） | 小很多，消費級 GPU 也能做 |
| 災難性遺忘 | 風險高：原本的通用能力容易被洗掉 | 風險較低：原權重沒動，只是「外掛」一個適配器 |
| 部署 | 每個任務一份完整模型 | 一份底模 + 多個小適配器，可隨時切換 |
⚠️常見誤區
誤區 1：以為微調能「教」模型新知識。
微調改的是模型的行為傾向（怎麼說、說多長、用什麼格式），不是一本可以逐條查閱的資料庫。拿 500 筆產品規格去微調，模型不會因此精準記住每個數字，反而可能把它們混在一起講。要「知道事實」請用 RAG；要「講得像你」才用微調。
微調改的是模型的行為傾向（怎麼說、說多長、用什麼格式），不是一本可以逐條查閱的資料庫。拿 500 筆產品規格去微調，模型不會因此精準記住每個數字，反而可能把它們混在一起講。要「知道事實」請用 RAG；要「講得像你」才用微調。
誤區 2：RAG 是萬靈丹，接上就不會幻覺。
RAG 的答案品質上限是檢索品質：文件切塊切壞、嵌入模型不懂你的領域詞、問題換個說法就找不到——檢索不到或撈到不相關的段落，模型一樣會自信地瞎掰。RAG 要做好，一半的功夫在向量資料庫與檢索評估，不在生成端。
RAG 的答案品質上限是檢索品質：文件切塊切壞、嵌入模型不懂你的領域詞、問題換個說法就找不到——檢索不到或撈到不相關的段落，模型一樣會自信地瞎掰。RAG 要做好，一半的功夫在向量資料庫與檢索評估，不在生成端。
誤區 3：三選一，選了就不能用別的。
它們可以疊加，而且實務上通常就是疊加：先把提示寫好（最便宜）→ 不夠就接 RAG（補知識）→ 風格格式還是不對、或提示太長太貴，才考慮微調（把固定的指令與風格「烤進」模型，讓提示變短）。
它們可以疊加，而且實務上通常就是疊加：先把提示寫好（最便宜）→ 不夠就接 RAG（補知識）→ 風格格式還是不對、或提示太長太貴，才考慮微調（把固定的指令與風格「烤進」模型，讓提示變短）。
🪜實務順序：Prompt → RAG → 必要時微調
- 先榨乾提示工程。清楚的角色、步驟、輸出格式、幾個高品質範例（few-shot），很多任務到這裡就夠了。這一步幾乎免費，也是後面兩步的基礎——微調與 RAG 都還是要靠好提示。
- 知識不夠或會過期 → 接 RAG。答案需要公司內部資料、最新資訊、或要附來源時，建知識庫、做檢索。先評估「檢索命中率」再評估「回答品質」。
- 風格／格式還是不穩、或提示長到太貴太慢 → 微調。準備標註資料（通常先用 LoRA），把固定不變的行為刻進模型，讓提示縮短、延遲與推論成本下降。
- 疊加使用。最成熟的做法常是「微調過的模型 + RAG + 精簡提示」：模型懂你的語氣，知識庫負責保鮮，提示只留任務指令。
一個判斷捷徑：問自己「這件事是會變的事實，還是固定的習慣？」會變的事實（價格、政策、庫存）→ RAG；固定的習慣（語氣、格式、領域措辭、拒答規則）→ 提示工程先試，不夠再微調。
✅自我檢測
每題單選，點選後立刻顯示對錯與解釋。
🎯重點整理
- 三條路動的層不同：提示工程動輸入、RAG 動脈絡、微調動權重。
- 知識 vs 行為：會變的知識用 RAG（可更新、可引用）；固定的風格格式用提示或微調。
- 成本階梯：提示（幾乎免費）＜ RAG（建知識庫與檢索）＜ 微調（GPU、標註資料）。
- 微調細分：全參數微調改全部權重；PEFT／LoRA 只訓練少量附加參數，省資源、較不會災難性遺忘。
- 風險：提示工程靠記憶易幻覺；RAG 檢索不到就答錯；微調有災難性遺忘與過擬合。
- 實務順序：先 Prompt → 再 RAG → 必要時微調，而且三者可以疊加。