🔍 SHAP 特徵貢獻 互動動畫

看每個特徵如何「推高」或「推低」模型預測

💡 白話說明

想像你去銀行申請貸款，AI 說「拒絕」。你問「為什麼？」：

📌 考試重點：SHAP 基於賽局理論的 Shapley 值，能公平分配每個特徵的貢獻。是目前最主流的 XAI（可解釋 AI）方法。
🏦 貸款審核
🏥 疾病風險
📱 客戶流失
模型預測結果
-
調整上方特徵值觀察 SHAP 變化
📊 SHAP 瀑布圖（Waterfall Plot）

🧠 SHAP vs LIME

SHAP
  • 基於 Shapley 值（賽局理論）
  • 全局 + 局部解釋都行
  • 理論保證公平分配
  • 計算較慢但結果穩定
LIME
  • 在預測點附近擬合簡單模型
  • 只做局部解釋
  • 速度快但結果可能不穩定
  • 每次跑結果可能略不同
📊 SHAP 重點
概念說明
Shapley 值賽局理論:每特徵對預測的公平貢獻
基準從平均預測出發、各特徵推它一把
加總性各特徵貢獻加總=該筆預測−基準
TreeSHAP樹模型的高效精確算法
✅ 自我檢測
SHAP 是什麼？
基於賽局理論 Shapley 值的模型解釋法:公平分配「每個特徵對某筆預測的貢獻」,可局部與全域解釋。
SHAP 有什麼好性質？
加總性(貢獻和=預測−基準)、一致性、局部準確;是理論基礎最扎實的解釋法之一。
TreeSHAP 是什麼？
針對樹模型(XGBoost／RF)的高效精確 SHAP 算法,把原本指數級計算降到多項式,實務可用。
🎯 重點整理
  1. SHAP=用 Shapley 值分配特徵貢獻。
  2. 各特徵貢獻加總=預測−基準(加總性)。
  3. 可局部(單筆)與全域(整體)解釋。
  4. TreeSHAP 讓樹模型算得又快又準。
  5. 與 LIME 並列主流 XAI 方法。

📝 iPAS 考點提醒

SHAP 用賽局論的 Shapley 值解釋模型輸出,iPAS 中級科目三考點。重點:把預測公平地分配到每個特徵的貢獻,可看單筆(局部)也可彙總成全局重要性,且滿足一致性與加總性。易混點:特徵重要性不等於因果(只是模型怎麼用該特徵);TreeSHAP 針對樹模型加速、KernelSHAP 較通用但慢。情境:向業務或法遵解釋為何核拒這筆貸款。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

SHAP 是什麼？

SHapley Additive exPlanations，用合作博弈論的 Shapley 值，把一筆預測公平地拆解成各特徵的貢獻，說明每個特徵把預測往上或往下推多少。

Shapley 值的核心概念？

衡量某特徵加入各種特徵組合時平均帶來的邊際貢獻；這是博弈論中公平分配合作收益、且唯一滿足數個公理的方法。

SHAP 有什麼好性質？

可加性(各特徵貢獻加基準值等於該預測)、一致性(特徵影響變大其 SHAP 值不會反而變小)，讓解釋更可信、可比較。

TreeSHAP 是什麼？

針對樹模型(隨機森林、XGBoost)的高效精確 SHAP 演算法；一般 SHAP 計算昂貴，TreeSHAP 大幅加速、實務常用。

SHAP 能做哪些解釋？

單筆(force 或 waterfall 圖看各特徵推力)、全域(特徵重要性排序、beeswarm)、依賴圖(看某特徵與其影響的關係)，局部與全域兼顧。

🧭 相關主題

可信賴性治理與倫理公平性與去偏見安全與防禦對抗式攻擊防禦強健性
← 返回 AI 學習與考證地圖