📉 PCA 主成分分析 · iPAS 高頻考點

PCA 主成分分析：把高維資料壓扁，還留住最多資訊

PCA 自動找出資料變化最大的方向（主成分），把又多又雜的特徵壓成少少幾維，用更少維度留住最多資訊。是最常用、考試最常出的線性降維法。

線性降維最大變異方向主成分 PC1/PC2解釋變異比例需先標準化

📷 一、先用白話講：PCA 在做什麼？

PCA 全名主成分分析（Principal Component Analysis），做的事是「幫資料找最有代表性的拍攝角度」。

🫖 生活比喻：幫立體茶壺拍一張照

一個 3D 茶壺要拍成 2D 照片。從正面拍，壺嘴、把手、輪廓全看得到（資訊多）；從正上方拍，只看到一個圓（資訊全擠在一起、看不出是茶壺）。
PCA 就是自動幫你找「資訊最豐富的那個拍攝角度」，把高維資料投影下來，丟掉維度但盡量不丟資訊。

換個說法：把資料的「影子」投到一條線上。PCA 找的，是讓影子拉得最長、點最不重疊的那條線——那條線就是第一主成分（PC1）。

💡 二、核心一句話：變異最大 ＝ 資訊最多

為什麼找「變異最大」的方向？因為資料越分散（變異越大）的方向，越能區分不同樣本、保留越多資訊；變異很小的方向（大家都差不多）壓掉它，損失最少。

🧭 主成分的規矩

PC1：變異最大的方向。PC2：在「和 PC1 垂直（正交）」的前提下，變異次大的方向……以此類推。每個主成分互相正交，互不重複資訊。降維就是只留前幾個主成分。

🎮 三、動手玩：自己轉出 PC1

藍點是資料（一團斜橢圓）。拖滑桿旋轉紅色軸，灰點是藍點投影到紅軸上的「影子」。目標：找到讓「投影長度」數字最大的角度——那個角度就是資料的主方向 PC1！

0°
投影長度: 0.00

🗺️ 怎麼看

慢慢拖滑桿，投影長度（灰影子的總長）會隨角度變化。當紅軸轉到貼合藍點橢圓的長軸時，投影長度達到最大——這就是 PCA 在做的事：從所有可能方向中，挑出投影後變異（長度）最大的那一個。轉到和它垂直的方向，投影長度最小。

🔢 四、PCA 一步步在算什麼

電腦不是用「轉滑桿試」的，而是用線性代數一次算出最佳方向：

1
標準化：把資料置中（減平均），各特徵調成同尺度。這步不能省（見下方陷阱）。
2
算共變異矩陣：描述「各特徵彼此怎麼一起變動」。
3
求特徵值與特徵向量（eigen）：特徵向量＝主成分的方向；特徵值＝該方向上的變異量（資訊多寡）。
4
依特徵值由大到小排序：特徵值最大的就是 PC1，次大是 PC2……取前 k 個。
5
投影：把原資料投影到這 k 個主成分上 → 得到 k 維的新資料，降維完成。

📊 五、要保留幾個主成分？

💪 兩個常用判準

① 累積解釋變異比例：把主成分的特徵值由大到小累加，看「保留到佔總變異 90% 或 95%」需要幾維，就取幾維。
② 陡坡圖（Scree Plot）：把各主成分的解釋變異畫成遞減曲線，找「手肘」轉折點——轉折之後的成分貢獻很小，可捨棄。
更多見 解釋變異比例與重建誤差。

⚖️ 六、PCA vs LDA：常考易混

比較PCALDA
監督？非監督（不用標籤）監督（要類別標籤）
找的方向整體變異最大最能把類別分開
目的去冗餘、壓縮、視覺化為分類做降維

🧠 一句話

PCA 看「資料整體怎麼散」，LDA 看「不同類別怎麼分」。要做分類前的降維，常選 LDA。

⚠️ 七、使用陷阱

① 一定要先標準化否則「公分 vs 公里」這種大尺度特徵會霸佔主成分，結果失真。
② 假設線性只抓得到線性結構；環狀、捲曲等非線性結構會失效。
③ 對離群值敏感極端值會把主成分方向拉歪，先處理離群。
④ 主成分難解讀PC1 是原特徵的線性組合，不像原欄位那樣好解釋。

🌀 八、資料非線性怎麼辦？

📌 PCA 抓不到時的替代

當資料結構是彎曲、非線性的，PCA 這條「直線投影」會失真。可改用 t-SNE、UMAP（擅長把高維結構攤平做視覺化）或 核 PCA（Kernel PCA）。各方法比較見 降維總覽。

🧪 九、觀念自我檢測

先想再點開。

Q1. PCA 找的是什麼方向？

資料變異最大的正交方向（主成分）；PC1 變異最大、PC2 次大且與 PC1 垂直。

Q2. 為什麼要找「變異最大」？

變異大＝資料越分散＝保留最多差異與資訊；變異小的方向壓掉損失最少。

Q3. 為什麼用 PCA 前要標準化？

不標準化的話，數值尺度大的特徵會主導主成分（被它的變異蓋過），結果失真。

Q4. 保留幾維怎麼決定？

看累積解釋變異比例（達 90%／95%），或用 scree plot 找手肘轉折。

Q5. PCA 和 LDA 差在哪？

PCA 非監督、只看整體變異；LDA 監督、用標籤找最能分類的方向。

✅ 十、30 秒重點整理

PCA＝線性降維找變異最大方向投影。
變異最大＝資訊最多主成分彼此正交。
算法標準化→共變異→特徵值/向量→取前 k→投影。
保留幾維累積解釋變異 90/95% 或 scree plot。
vs LDAPCA 非監督看變異；LDA 監督看分類。
陷阱先標準化、假設線性、怕離群、難解讀。

📝 iPAS 考點提醒

PCA(主成分分析)是最常用的線性降維,iPAS 高頻考點(中級科目三)。重點:找變異最大的正交方向(主成分)投影降維,用累積解釋變異比例(如 90%、95%)決定保留幾維。易混點:PCA 非監督(只看整體變異)、LDA 監督(用標籤找最能分類方向);用前要標準化、假設線性、對離群敏感;主成分是原特徵線性組合、不易直接解讀。情境:去冗餘、視覺化、加速建模。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

PCA 在做什麼？

主成分分析；找資料變異最大的正交方向，把高維資料投影到少數主成分上達成降維，同時盡量保留資訊。

PCA 怎麼決定保留幾維？

看累積解釋變異比例(如保留到 90% 或 95%)，或用陡坡圖(scree plot)找轉折。

PCA 使用前要注意什麼？

需先標準化(否則尺度大的特徵會主導主成分)；PCA 假設線性關係、對離群值敏感，有極端值要先處理。

PCA 和 LDA 差在哪？

PCA 非監督、只看整體變異；LDA 監督、用標籤找最能分類的方向。分類前降維常用 LDA。

PCA 有什麼限制？

只能捕捉線性結構、主成分難解釋、對離群敏感；非線性結構可改用 t-SNE、UMAP 或核 PCA。

🧭 相關主題

降維解釋變異比例、重建誤差非監督式學習LDA 線性判別分群/類聚/叢集(Clustering)K-Means
← 返回 AI 學習與考證地圖