Accuracy · Class Separability

判別分析的評估指標

準確率 × 類別分離度

判別分析分得好不好,看兩件事:分得準(準確率)、分得開(類別分離度)。
分離度是問題的先天難度——兩群太近,再好的模型也救不了。

準確率 = (TP+TN)/N · 分離度 d′ = |μ_A−μ_B|/σ
01 — 白話直覺

判別分析在做什麼?怎麼評估它?

LDA / QDA 是分類器:它假設每個類別的資料各自呈常態分布,然後找一條界線把類別分開。LDA 用直線邊界、QDA 允許彎曲邊界。評估它好不好,看兩件事:分得準不準(準確率),以及兩群分得開不開(類別分離度)

類別分離度
分得開嗎

兩群中心離越遠、各自越集中,越好分。

準確率
混淆矩陣

對角線(猜對)越多越好,斜角(猜錯)越少越好。

QDA 邊界
可彎曲

各類變異不同時,彎曲邊界比直線分得更準。

02 — 核心互動

拉動門檻,看分離度如何決定準確率

下圖是兩個類別投影到一條軸上的分布(藍 = 類別 A橘 = 類別 B)。拖動決策門檻看準確率怎麼變;再調「兩群距離」看分離度如何根本性地決定一個分類問題的上限。

230
110
準確率
分離度 (d′)
狀態

當兩群靠很近(分離度小),不管門檻怎麼調,準確率都上不去——這就是「類別分離度」的意義:它是這個分類問題先天的難度上限。

d′ = |μ_A − μ_B| / σ  準確率 = (TP + TN) / 全部
03 — 指標一覽

判別分析常看哪些指標?

準確率 (Accuracy):整體猜對比例,類別均衡時好用。類別分離度 (d′ / Fisher 比):衡量群間距離相對群內離散的大小。類別不均衡時,還要再看 精確率 / 召回率 / F1

優點

  • 準確率直覺、一眼看懂整體表現
  • 分離度反映問題本質難度,與模型無關
  • LDA 的判別軸還能順便做降維與視覺化

缺點 / 限制

  • 類別不均衡時,準確率會騙人(全猜多數類也很高)
  • 分離度假設常態分布,偏態資料會失真
  • 高維、非線性結構下,線性分離度低估了可分性

典型應用場景

🩺
醫學診斷
用檢驗數值區分患病 / 健康
🏦
信用評分
區分高風險 / 低風險客戶
📊
品質檢測
良品 / 瑕疵品的二分類

📝 iPAS 考點提醒

LDA 與 QDA 是基於機率的分類法,iPAS 中級科目三考點。重點:都假設各類服從常態,LDA 假設共用相同共變異數(決策邊界線性)、QDA 各類各自共變異數(邊界為二次曲線)。易混點:QDA 更彈性但參數多、資料少易過擬合;這個 LDA 是線性判別分析,別跟主題模型 LDA 混。情境:資料近常態、想要可解釋的機率分類。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

LDA 和 QDA 是什麼?

線性判別分析(LDA)與二次判別分析(QDA)是基於機率的分類法;LDA 假設各類共用相同共變異(邊界線性),QDA 允許各類不同共變異(邊界二次)。

LDA 和 QDA 怎麼選?

資料少或各類共變異相近用 LDA(較穩、參數少);各類分散差異大且資料足夠用 QDA(更彈性但易過擬合)。

LDA 也能降維?

能;LDA 可當監督式降維,找最能分開各類別的方向(最大化類間、最小化類內變異),與 PCA(非監督、看變異)不同。

怎麼評估這類分類器?

用分類指標:準確率、Precision 與 Recall、F1、混淆矩陣、ROC-AUC;不平衡時看 F1 與 PR-AUC。

LDA 和 PCA 差在哪?

PCA 非監督、找最大變異方向;LDA 監督、找最能分類的方向;降維目的不同(保留資訊相對保留可分性)。

🧭 相關主題

← 返回 AI 學習與考證地圖