當 AI 模型給出答案，我們需要知道「為什麼」。LIME 和 SHAP 是兩種最主流的解釋方法，但它們的哲學、數學基礎與適用情境完全不同。本頁用互動方式帶你看清差別。
深度學習模型可以給出很準的預測，但無法告訴你「為什麼」。在醫療、金融、司法這些高風險領域，無法解釋的決策幾乎沒有實用價值。
XAI（Explainable AI）正是為了打開這個黑盒子。它不改變模型本身，而是事後（post-hoc）分析模型的行為，把「特徵 → 預測」之間的影響力具體量化出來。
LIME（2016）和 SHAP（2017）是這個領域的兩座基石。兩者都能告訴你「哪個特徵影響最大」，但走的是完全不同的路。
使用者要知道模型的依據才會信任。一個說不出理由的 95% 準確率，遠不如說得清楚的 85%。
解釋能幫工程師發現模型學到的捷徑或偏誤 — 例如「皮膚癌偵測模型其實只在看尺規」這種事。
GDPR、AI Act 都規定自動化決策必須能被解釋。XAI 從研究議題變成法規必需。
LIME 的核心思想很單純 — 黑盒模型的「整體」雖然複雜，但在單一預測點周圍的小區域，可以用一條直線（線性模型）來近似。
把要解釋的那個樣本當成中心，LIME 會在它附近擾動出許多新樣本，用黑盒模型對它們打分，再訓練一個加權的線性迴歸來擬合這些分數。線性模型的權重，就是各個特徵的「局部重要性」。
怎麼讀？ LIME 在你點擊的點周圍（虛線圓）採樣擾動點，計算每個擾動點離原點越近權重越高，再擬合一條直線。那條直線在哪個方向上斜率大，就代表那個特徵對「這個預測」最重要。
SHAP 來自 1953 年的諾貝爾經濟學獎理論 — Shapley value。原本是解決「一群人合作賺到一筆錢，怎麼分才公平」的問題，現在被搬來分配「特徵對預測的貢獻」。
想像一場合作賽局：每個特徵是一位玩家，模型的預測值是大家「合作」的成果。SHAP 會列出所有可能的特徵組合（聯盟），計算每個特徵「加入」每個聯盟時帶來的邊際貢獻，再取平均 — 那個平均值，就是這個特徵的 Shapley value。
上面列出了所有 2³ = 8 種特徵組合，以及該組合下模型的預測值。要計算特徵 X 的 Shapley value，我們找出所有「包含 X 的聯盟」與「不包含 X 的聯盟」，計算加入 X 後預測的變化，最後取加權平均。
重點：SHAP 不是看「拿掉這個特徵會差多少」這麼簡單 — 它考慮了所有順序的加入方式，所以結果有數學上的公平性保證（local accuracy、consistency、missingness）。
最直接看出差別的方式，是讓兩種方法解釋同一個預測。下方是一個簡化的貸款核准模型 — 拖動左邊的滑桿改變申請人條件，看看 LIME 和 SHAP 對同一筆預測會給出什麼解釋。
↑ 長度代表「在這個樣本附近，那個特徵改變一單位對預測的影響大小」。LIME 給的是局部斜率。
↑ 每個特徵的 SHAP 值加總後，正好等於「預測值 − 基準值」 — 這是 SHAP 獨有的可加性。
| 面向 | LIME | SHAP |
|---|---|---|
| 理論基礎 | 在預測點附近用線性模型做局部近似。沒有公理化保證。 | 來自合作賽局理論的 Shapley value。具備 efficiency、symmetry、dummy、additivity 四大公理。 |
| 輸出意義 | 特徵對該預測的「局部斜率」 — 改變一單位會讓預測偏移多少。 | 特徵把預測值從「平均」推離的實際數值，所有特徵 SHAP 值加總 = 預測 − 平均預測。 |
| 一致性 (Consistency) | 不保證。模型變得更依賴某特徵時，LIME 算出的重要性不一定變大。 | 數學保證。如果模型變得更依賴某特徵，它的 SHAP 值不會變小。 |
| 穩定性 | 低 — 依賴隨機擾動，同一筆樣本跑兩次結果可能不同。 | 高 — 確定性計算（TreeSHAP、DeepSHAP 是精確的）。 |
| 計算速度 | 快。每筆樣本訓練一個小線性模型即可。 | 慢（KernelSHAP）— 但對特定模型有快速版本：TreeSHAP（樹模型）、DeepSHAP（深度網路）。 |
| 全局解釋 | 原生只支援局部解釋。要全局得自己彙整。 | 內建多種全局視覺化：summary plot、dependence plot、interaction plot。 |
| 適用資料型態 | 表格、文字、影像皆有對應實作（LimeTabular / LimeText / LimeImage）。 | 表格、文字、影像、圖（GraphSHAP）。對樹模型與深度模型有專屬優化。 |
兩者各有最適合的場景。下面是實務上常見的決策路徑：
LIME 與 SHAP 是兩大可解釋 AI 方法,iPAS 中級科目三高頻對比題。重點:兩者都做單筆局部解釋、都 model-agnostic;LIME 用局部線性近似(快但較不穩)、SHAP 基於賽局論的 Shapley 值(有一致性與加總性等理論保證、較穩但較慢)。易混點:別把可解釋性當錦上添花——高風險領域(金融、醫療)常要求能解釋決策。情境:挑解釋方法、回答兩者差異。
想練情境題與詳解 → AI 學習與考證地圖
都是事後、模型無關(model-agnostic)的可解釋方法，用來解釋單筆預測哪些特徵重要，幫助理解黑箱模型。
LIME 用局部線性近似、快但較不穩；SHAP 基於博弈論的 Shapley 值、給每個特徵公平的貢獻分配，理論基礎強、一致性好但通常較慢。
滿足可加性與一致性：所有特徵貢獻加起來等於預測與基準的差；且可做全域彙總(特徵重要性、依賴圖)，解釋更可靠。
要快速、單筆直覺解釋用 LIME；要嚴謹、可全域彙總、可信度高用 SHAP(尤其樹模型有高效的 TreeSHAP)。
都是相關性解釋、非因果；對高度相關特徵的歸因可能誤導；解釋本身也需謹慎驗證，別過度詮釋。