訓練資料若帶有歷史偏見，模型會學起來並放大。
公平性就是要量測各群體的差距，並在資料、訓練、輸出階段修正。
會。如果訓練資料本身帶有偏見（例如過去的貸款核准多偏向某群人），模型就會學起來並放大這個偏見。公平性（Fairness）就是要偵測並修正：別讓 AI 因為性別、種族、年齡等敏感屬性而做出不公平的決定。
不同群體得到相當的對待。
歷史資料本來就不平衡。
模型會強化資料裡的歧視。
關鍵：偏見通常不是工程師故意的，而是「資料」帶進來、被模型默默放大的。所以要主動去量測、去修正。
假設一個貸款模型對群體 A和群體 B給出分數。拖動核准門檻，看兩個群體的核准率差距——如果同一條門檻讓兩群通過率天差地遠，就是不公平的訊號。
同一條門檻、兩群通過率卻差很多——這就是「群體公平」的核心問題。修正方法包含：重採樣資料、調整門檻、或在訓練時加入公平性約束。
AI 公平性是 iPAS 治理高頻考點(初級科目一、中級科目二)。重點:避免模型對特定群體(性別、種族等)產生系統性偏誤,偏誤常源自訓練資料。易混點:公平有多種定義(機會均等、預測均等、人口比例等)且彼此常衝突、無法同時滿足,需依情境取捨;與準確率是不同目標。情境:貸款、招募、司法等高風險決策的偏誤檢測與修正。
想練情境題與詳解 → AI 學習與考證地圖
確保模型不會對特定群體(性別、種族、年齡等)產生系統性的不利或偏誤，是負責任 AI 與 AI 治理的核心議題。
多半來自資料——歷史資料本身含偏見、某些群體樣本不足、標註偏差；模型會學起來甚至放大這些偏誤。
常見如機會均等(各群 Recall 相同)、人口均等(各群正例比例相同)、校準一致等；數學上常無法同時滿足，需依情境取捨。
前處理(重抽樣或重加權平衡資料)、訓練中(加入公平性約束)、後處理(調整各群閾值)，並用分群指標審視結果。
整體準確率高仍可能在某些少數群體上表現很差；只看總體指標會掩蓋群體間差距，必須分群檢視。