📊 PCA 解釋變異 · iPAS 降維考點

PCA 該保留幾個主成分?用「解釋變異」來決定

PCA 找出主成分後,每個主成分扛走多少資訊,是用特徵值 λ 衡量的。把 λ 換成解釋變異比例、再累積,達到門檻就知道該留幾維。還沒看 PCA 怎麼找方向?先看 PCA 概念頁

特徵值 λ解釋變異比例累積變異Scree Plot90~95% 門檻

🔑 一、特徵值 λ = 那個方向的「資訊量」

PCA 算出每個主成分時,會附帶一個特徵值(eigenvalue, λ)

λ 越大 → 該主成分保留越多變異(資訊)

主成分會依特徵值由大到小排序:λ 最大的是 PC1(資訊最多),其次 PC2、PC3……越後面的主成分,扛的資訊越少。所以「該留幾個」=「前幾個就夠裝下大部分資訊?

🎮 二、四步看懂「保留幾維」的決策

用一個例子:三個主成分,特徵值 λ=6、3、1。依序點 ①→②→③→④,看它怎麼一步步算出「留 2 維就夠」。

0 5.0 10.0 資訊量 (特徵值 λ) 0% 50% 100% 解釋總變異量 (%) 80% 門檻要求 主成分 1 (PC1) λ₁ = 6.0 主成分 2 (PC2) λ₂ = 3.0 主成分 3 (PC3) λ₃ = 1.0 合計:90% ❌ 捨棄降維

1. 取得主成分與特徵值 (Eigenvalues)

經過演算法計算後,我們得到三個主成分。它們身上的「特徵值 (λ)」代表了這個維度抓取到的資訊量大小。PC1 抓到了 6.0、PC2 抓到 3.0、PC3 抓到 1.0。

🗺️ 怎麼看

① 三根長條=三個 λ;② 疊起來=總變異(6+3+1=10);③ 各自除以 10 換成百分比(60%/30%/10%);④ 從大到小累加,PC1+PC2=90% 已過 80% 門檻 → 丟掉 PC3,三維降成二維還留住 90% 資訊。

📖 三、三個一定要會的關鍵詞

特徵值 λ單一主成分扛的變異量(絕對值)。
解釋變異比例該主成分佔總變異的百分比=λᵢ ÷ Σλ。例:6÷10=60%。
累積解釋變異前 k 個比例加總,代表「留 k 維共保住多少資訊」。

📐 四、實務上怎麼選「幾維」?兩個方法

方法怎麼做判準
累積變異門檻把解釋變異比例由大到小累加累積達 90% 或 95% 所需的維度數
Scree Plot 陡坡圖把各主成分變異畫成遞減折線「手肘」轉折,轉折後的成分捨棄

🧠 一句話

兩種方法常一起看:先用 scree plot 找手肘的大概位置,再用累積變異確認有沒有達到你要的門檻(如 95%)。詳細指標見 解釋變異比例與重建誤差

⚖️ 五、留太多 vs 留太少

留太少 ❌丟掉重要資訊,下游模型表現變差、重建誤差大。
留太多 ❌幾乎沒降維,失去「壓縮、去雜訊、加速」的意義。
剛剛好 ✅用門檻(90~95%)或手肘,在資訊保留維度精簡間取得平衡。

⚠️ 六、一個常被考的陷阱

變異大 ≠ 對你的任務最有用

PCA 是非監督的——它只看「資料整體哪個方向最分散」,不看標籤。所以變異最大的主成分,未必是對你的預測目標最有鑑別力的方向。有時某個變異不大的方向,反而才是關鍵。要為「分類」降維時,可考慮監督式的 LDA

🧪 七、觀念自我檢測

先想再點開。

Q1. 特徵值 λ 代表什麼?

該主成分保留的變異量(資訊量);λ 越大、保留越多。主成分依 λ 由大到小排。

Q2. 解釋變異比例怎麼算?

λᵢ ÷ 所有 λ 的總和。例:λ=6,3,1 → PC1=6/10=60%。

Q3. λ=6、3、1,要保留到 90%,需要幾維?

2 維:PC1(60%)+PC2(30%)=90%,第三個可捨棄。

Q4. 實務怎麼選成分數 k?

累積解釋變異達門檻(90~95%)或 scree plot 找手肘

Q5. 變異最大的主成分一定對任務最重要嗎?

不一定。PCA 不看標籤,變異大不等於對預測目標最有用。

✅ 八、30 秒重點整理

特徵值 λ=資訊量主成分依 λ 由大到小排。
解釋變異比例λᵢ ÷ Σλ。
累積變異前 k 個加總=留 k 維的資訊保留率。
選 k累積達 90~95% 或 scree plot 手肘。
權衡太少丟資訊、太多沒降維。
陷阱變異大 ≠ 對任務最有用。

📝 iPAS 考點提醒

PCA 的特徵值與解釋變異量是 iPAS 降維考點(中級科目三)。重點:每個主成分的特徵值代表它解釋的變異量,主成分依特徵值大小排序;累積解釋變異比例決定保留幾維。易混點:保留太少維會丟資訊、太多失去降維意義;主成分是原特徵的線性組合、不易直接解讀。情境:用陡坡圖或累積變異(如 95%)選主成分數。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

PCA 的「變異」指什麼?

PCA 找出資料變異(分散程度)最大的方向當主成分;每個主成分解釋一部分總變異,前幾個通常涵蓋大部分資訊。

解釋變異比例是什麼?

每個主成分解釋的變異佔總變異的比例;累積起來可知保留 k 個成分留住了多少資訊。

為什麼第一主成分最重要?

它是資料變異最大的方向、保留最多資訊;後續主成分變異依序遞減,且彼此正交(互不相關、無冗餘)。

怎麼決定保留幾個成分?

看累積解釋變異達門檻(如 90 到 95%)或陡坡圖手肘,在資訊保留與維度精簡間取捨。

變異大就一定重要嗎?

對 PCA 是;但變異大不等於對預測目標最有用——PCA 不看標籤,有時對任務重要的方向變異不大,需注意。

🧭 相關主題

← 返回 AI 學習與考證地圖