StandardScaler × PCA × LogisticRegression：
一條 Pipeline 與交叉驗證的 17 行程式

00題目

使用 scikit-learn 的 Breast Cancer 資料集評估 StandardScaler、PCA 與 LogisticRegression 的組合。下列寫法將前處理放入 Pipeline，再交由交叉驗證執行：相較於先在完整 X 上執行 scaler.fit_transform(X) 與 pca.fit_transform(X)，上述 Pipeline 在交叉驗證中最重要的優點為何？

 1  from sklearn.datasets import load_breast_cancer                       # 從 sklearn 的 datasets 模組，把「載入乳癌資料集」的函式拿到手上
 2  from sklearn.decomposition import PCA                                 # 拿 PCA（主成分分析），之後用來降維
 3  from sklearn.linear_model import LogisticRegression                   # 拿邏輯迴歸——名字是迴歸，工作是分類
 4  from sklearn.model_selection import StratifiedKFold, cross_val_score  # 一次拿兩樣：分層切折的規則＋跑交叉驗證的執行者
 5  from sklearn.pipeline import Pipeline                                 # 拿 Pipeline——把多個步驟串成一條生產線
 6  from sklearn.preprocessing import StandardScaler                      # 拿標準化工具——把每欄變成平均 0、標準差 1
 7
 8  X, y = load_breast_cancer(return_X_y=True)                            # 真正載入資料：特徵表裝進 X、答案裝進 y
 9
10  pipe = Pipeline([                                                     # 開始組生產線，存進 pipe（( 是呼叫、[ 是開清單）
11      ("scale", StandardScaler()),                                      # 第 1 站：標準化（"scale" 是自己取的名字）
12      ("pca", PCA(n_components=10)),                                    # 第 2 站：降到 10 維
13      ("clf", LogisticRegression(max_iter=2000))                        # 第 3 站：分類模型（行尾沒有逗號）
14  ])                                                                    # ] 關清單、) 關呼叫，生產線組完
15
16  cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)       # 切 5 折、切前先洗牌、亂數固定成 42
17  scores = cross_val_score(pipe, X, y, cv=cv, scoring="roc_auc")        # 跑 5 輪交叉驗證，得到 5 個 ROC-AUC 分數

—先說 scikit-learn 是什麼

整段程式的六個 import 全部來自同一個地方：scikit-learn——Python 上最主流的傳統機器學習工具箱。它不是 Python 內建的，要另外安裝。

它管什麼、不管什麼

iPAS 中級的程式題幾乎都落在 scikit-learn 的守備範圍，所以把它的模組分區和三個動詞記熟，讀題速度會差很多。

本題用到的六個模組

scikit-learn 像一座圖書館，工具按用途分書架。這六個就是第 1–6 行分別去拿東西的地方：

為什麼它特別好學

因為所有工具長得一模一樣：不管是標準化、降維還是分類，動作都只有 fit()、transform()、predict() 這三個。學會一個就等於會全部，而這也正是 Pipeline 能把三個步驟焊成一條流程的原因。

想深入的話點這裡：什麼是函式庫？模組是什麼？為什麼所有工具長得一樣？fit 在做什麼？

01逐行拆解：第 1 行到第 17 行

17 行，前 6 行是把工具拿進來，第 8 行載入資料，第 10–14 行組裝流程，第 16 行定義切法，第 17 行才真的開始跑。

先認識一個符號：點 .

這是物件導向的寫法。scikit-learn 整套都建立在它上面——先做出一台機器，再叫這台機器做事，而「叫它做事」就是靠這個點。

sklearn.datasets   點的左邊是模組　唸「裡面的」
scaler.fit(X)      點的左邊是物件　唸「它的」

scaler.fit(X)      有括號 = 方法，叫它做一件事
X.shape            沒括號 = 屬性，看一格資料

想深入的話點這裡：點 . 到底是什麼？方法和函式差在哪？屬性和方法差在哪？為什麼有些屬性尾巴有底線？什麼是估計器統一介面？

第 1–6 行：匯入區

這六行的句型完全一樣：from 模組 import 名字，差別只在拿的是哪個東西。import 本身不執行任何運算，它只是把工具擺到桌上，讓你之後可以直接叫它的名字。

from sklearn.datasets import load_breast_cancer  # 從 sklearn 的 datasets 模組，把「載入乳癌資料集」的函式拿到手上

from sklearn.decomposition import PCA  # 拿 PCA（主成分分析），之後用來降維

from sklearn.linear_model import LogisticRegression  # 拿邏輯迴歸——名字是迴歸，工作是分類

from sklearn.model_selection import StratifiedKFold, cross_val_score  # 一次拿兩樣：分層切折的規則＋跑交叉驗證的執行者

from sklearn.pipeline import Pipeline  # 拿 Pipeline——把多個步驟串成一條生產線

from sklearn.preprocessing import StandardScaler  # 拿標準化工具——把每欄變成平均 0、標準差 1

X, y = load_breast_cancer(return_X_y=True)  # 真正載入資料：特徵表裝進 X、答案裝進 y

pipe = Pipeline([  # 開始組生產線，存進 pipe（( 是呼叫、[ 是開清單）

    ("scale", StandardScaler()),  # 第 1 站：標準化（"scale" 是自己取的名字）

    ("pca", PCA(n_components=10)),  # 第 2 站：降到 10 維

    ("clf", LogisticRegression(max_iter=2000))  # 第 3 站：分類模型（行尾沒有逗號）

])  # ] 關清單、) 關呼叫，生產線組完

輸入原始 X
      ↓
  ① scale   StandardScaler       每欄減平均、除標準差
      ↓
  ② pca     PCA(10)              30 維 → 10 維
      ↓
  ③ clf     LogisticRegression   輸出良性機率
      ↓
   預測結果

cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)  # 切 5 折、切前先洗牌、亂數固定成 42

scores = cross_val_score(pipe, X, y, cv=cv, scoring="roc_auc")  # 跑 5 輪交叉驗證，得到 5 個 ROC-AUC 分數

── 第 k 折 ────────────────────────────
  複製一套全新的 Pipeline（不沿用上一折學到的任何東西）

  【訓練折 455 筆】
    StandardScaler.fit        只從這 455 筆算平均值、標準差
    PCA.fit                   只從這 455 筆找 10 個主成分方向
    LogisticRegression.fit    用轉換後的資料訓練

  【驗證折 114 筆】
    StandardScaler.transform  用訓練折的平均值 / 標準差，不重學
    PCA.transform             用訓練折的主成分方向，不重學
    predict_proba → 計算這一折的 ROC-AUC

array([0.99384, 0.99770, 0.98412, 1.00000, 0.99870])
        第1折     第2折     第3折     第4折    第5折

scores.mean()  → 0.9949    平均表現
scores.std()   → 0.0058    折與折之間的波動，越小越穩定

02StandardScaler：把不同單位換成同一把尺

先講白話

一個人身高 175 公分、體重 70 公斤，哪個比較突出？直接比 175 和 70 完全沒有意義——它們單位不同、範圍不同。

要比較，你會問的是：「在同齡人裡，他的身高排第幾？體重排第幾？」——這才是公平的比法。標準化做的就是這件事。

本題資料的落差有多誇張

面積動輒上千，平滑度只有 0.1，差了將近兩萬倍。不處理的話會發生兩件事：

公式與單筆計算

\[ z = \frac{x - \mu}{\sigma} \qquad(\mu = \text{該欄平均值},\ \sigma = \text{該欄標準差}) \]

白話就是「你比平均高幾個標準差」。實際算一筆看看：

某筆資料的面積 x = 1500
這一欄的平均值 = 1000、標準差 = 250

z = (1500 − 1000) ÷ 250 = 2

→ 代表這筆資料的面積比平均高 2 個標準差

整欄做完之後，這一欄的平均值會變成 0、標準差會變成 1。三十欄都做完，全部特徵就站在同一個量級上了。

誰需要、誰不需要

03PCA 到底做了什麼

先講結論：PCA 沒有刪掉任何特徵

用「身材」當例子

假設我們要分析一個人的身材，量了四個數字：

每個人用 4 個數字描述，這就是 4 維資料。但你應該已經發現了：

身高高 → 腿通常也長 → 手通常也長 → 體重通常也重

這四個特徵高度相關，一直在重複描述同一件事——身材大小。既然資訊重複，就有壓縮的空間。

它怎麼做：重新混合，不是挑選

PCA 不會說「腿長刪掉、手長刪掉」。它會造一個全新的欄位出來：

PC1 = 0.51 × 身高 + 0.48 × 腿長 + 0.46 × 手長 + 0.12 × 體重
      └─ 身高、腿長、手長權重較大 → 這一欄在描述「身材大小」

PC2 = 0.78 × 體重 − 0.23 × 身高 − 0.10 × 腿長 + 0.20 × 手長
      └─ 體重權重大、且與身高反向 → 這一欄在描述「相對胖瘦」

PC1 和 PC2 都不是原本任何一個欄位，而是四欄的加權組合，權重由資料自己決定。原本的四個特徵就這樣變成兩個新特徵。

想成調果汁

原本有蘋果、香蕉、柳橙、葡萄四種水果。PCA 不是說「柳橙不要、葡萄不要」，而是把它們調成兩杯果汁：

換個場景：公司的營運資料

假設 ERP 系統裡有訂單數、出貨量、銷售金額、毛利四個欄位。它們的關係是：

訂單數↑ → 出貨量↑ → 銷售額↑

三個高度相關。PCA 跑完可能產生：

資料從 4 維變 2 維，但 PC1 已經包含了訂單、出貨、銷售額的資訊。

什麼時候壓不下來

PCA 能壓縮的前提是特徵之間有重複。如果四個特徵是這樣：

身高　英文成績　CPU 使用率　今天氣溫

彼此毫無關係，各講各的，那 PCA 就很難降維——因為沒有任何資訊是重複的，砍掉哪一維都會真的損失資訊。

為什麼叫「主成分」

因為它代表資料中最重要、最有代表性的方向。想像有 100 個人站在一起，幾乎排成一條斜線：

                    ●
                ●
            ●
        ●
    ●

PCA 會說：「與其記錄每個人的 X、Y 座標，不如直接記錄他在這條斜線上的位置。」

原本： (X, Y)  兩個數字
變成： PC1     一個數字，就描述了大部分資訊

它會把新造出來的軸由重要到不重要排序：第 1 主成分是資料變化最大的方向，第 2 主成分是跟第 1 垂直、變化次大的方向，以此類推。

保留了多少資訊：解釋變異數比例

既然要丟掉一些軸，總得知道丟掉了多少。每個主成分能解釋多少比例的總變異，就叫 explained variance ratio。以本題標準化後的乳癌資料實跑：

前 10 個加起來是 95.16%——欄位砍掉三分之二，資訊只掉了不到 5%。這就是第 12 行選 10 的理由。

「線性」是什麼意思

常常看到 PCA 被歸類成線性降維，這兩個字的意思其實很生活化：

線性：時薪固定 200 元

工作 1 小時 → 200 元
工作 2 小時 → 400 元
工作 3 小時 → 600 元

薪水
 ↑
 |          ●
 |       ●
 |    ●
 | ●
 +----------------→ 工時

每多工作 1 小時就固定多 200 元。輸入增加固定一點，輸出也增加固定的量——畫出來是一條直線。

非線性：車速與煞車距離

40 km/h  → 煞車距離 10 公尺
80 km/h  → 不只是 20 公尺，可能是 40 公尺
120 km/h → 可能增加到 90 公尺

煞車距離
 ↑
 |               ●
 |          ●
 |      ●
 |   ●
 | ●
 +----------------→ 車速

車速增加一倍，煞車距離增加不只一倍。輸入增加時，輸出的變化速度也一直在改變——畫出來是彎的。

放到資料分析裡

廣告費與銷量的關係，現實中通常是非線性的：剛開始投很有效，投到一定金額後效果變小，再繼續加銷量幾乎不再上升。

銷量
 ↑
 |             ● ● ●      ← 邊際效益遞減，直線描述不了
 |          ●
 |       ●
 |    ●
 | ●
 +----------------→ 廣告費

那降維方法的「線性」呢

在降維裡，線性／非線性可以想成：整理資料時，是不是只允許用「直線方向」。

PCA 只能找直的方向，它像拿一把直尺，找一條最能代表資料的方向再把點投影上去。所以：

遇到彎曲結構就要換 t-SNE 或 UMAP 這類非線性方法。

為什麼 PCA 不用標籤 y

先講「標籤」是什麼——每筆資料的正確答案，機器學習裡習慣用 y 表示。以乳癌資料為例：

半徑、面積、紋理、平滑度……   → 這些是輸入特徵，叫 X
這位病人真的是良性還是惡性     → 這是正確答案，叫 y

而 PCA 只想回答一個問題：這些特徵中，資料主要往哪些方向變化？它只看點的位置、距離與變異方向，完全不看哪個點是良性、哪個是惡性。所以它只需要：

pca.fit(X)          ← 只吃 X

不需要 pca.fit(X, y)  ← y 這個參數會被直接忽略

四種降維方法比較

優點、代價，與一個重要提醒

04LogisticRegression：名字叫迴歸，工作是分類

先講白話：它其實做了三步

像大學申請：各科成績乘上不同權重加起來得到總分，再對照落點分析表說「你這個分數大概有 85% 機會上」，最後才決定填不填。名字叫迴歸是因為前半段在算分數，工作是分類是因為後半段在判斷。

第一步：先做線性加權

\[ z = w_1x_1 + w_2x_2 + \dots + w_nx_n + b \]

假設要預測一位客戶會不會流失，模型看三個特徵：

把三項加權相加得到一個分數 z。這一段確實就是線性迴歸，所以它被歸在 linear_model 模組。

但 z 是個沒有上下限的數字（可能是 −8、也可能是 +23），沒辦法直接當機率用。

第二步：再經過 Sigmoid

\[ p = \frac{1}{1+e^{-z}} \]

Sigmoid 是一個 S 形的轉換器，負責把任意分數壓進 0～1 之間：

再怎麼有把握，機率也不可能超過 100%；再怎麼沒把握，也不會是負的——這個「封頂與封底」就是 Sigmoid 在做的事。

第三步：用門檻切成兩類

p = 0.82  →  判為 正類
p = 0.61  →  判為 正類
p = 0.32  →  判為 負類

常見門檻：0.5（可依需求調整）

因為 z = 0 時 p 剛好是 0.5，所以「門檻 0.5」其實就是「分數 0」那條界線。

算一筆給你看

假設某筆資料算出來 z = 1.5

p = 1 ÷ (1 + e^(−1.5)) ≈ 0.82

如果門檻 = 0.5，因為 0.82 ≥ 0.5 → 判定為正類

它適合什麼、不適合什麼

max_iter=2000 在幹嘛

權重不是一次算出來的，是反覆微調出來的（預設用 lbfgs 演算法）：調一次、看有沒有變好、再調，直到幾乎不再進步為止——這叫收斂。

就像調吉他弦，一邊轉一邊聽，調準了就停手；但你心裡也會有個底：「轉五十次還調不準，那大概是弦有問題，別再耗了」。max_iter 就是那個上限。

05核心考點：Pipeline 與資料洩漏

先看完整的錯誤版程式

很多人會這樣寫，因為看起來比較直覺：先把資料處理好，再拿去做交叉驗證。整段長這樣：

# 錯誤版
from sklearn.datasets import load_breast_cancer                       # 從 sklearn 的 datasets 模組，把「載入乳癌資料集」的函式拿到手上
from sklearn.decomposition import PCA                                 # 拿 PCA（主成分分析），之後用來降維
from sklearn.linear_model import LogisticRegression                   # 拿邏輯迴歸——名字是迴歸，工作是分類
from sklearn.model_selection import StratifiedKFold, cross_val_score  # 一次拿兩樣：分層切折的規則＋跑交叉驗證的執行者
from sklearn.preprocessing import StandardScaler                      # 拿標準化工具——把每欄變成平均 0、標準差 1

X, y = load_breast_cancer(return_X_y=True)  # 真正載入資料：特徵表裝進 X、答案裝進 y

scaler = StandardScaler()                   # 做一台標準化機器
X_scaled = scaler.fit_transform(X)          # ← 用「全部 569 筆」算平均值與標準差

pca = PCA(n_components=10)                  # 做一台降維機器（保留 10 維）
X_pca = pca.fit_transform(X_scaled)         # ← 用「全部 569 筆」找主成分方向

clf = LogisticRegression(max_iter=2000)                          # 做一台分類模型
cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)  # 切 5 折、切前先洗牌、亂數固定成 42

scores = cross_val_score(clf, X_pca, y, cv=cv, scoring="roc_auc")  # 拿「已經整份處理過」的資料去交叉驗證
                                # ↑ 到這裡才切折

這段程式跑得起來、不會報錯、分數還很漂亮——所以最危險。跟正確版對照，差別只有一個：前處理是在切折之前做，還是之後做。

先澄清一個常見誤會：偷看到的不是「答案」

用考試比喻：不是把解答外流，而是老師先看過全班的答案卷（包括那 114 份），才據此訂出計分標準。答案沒外洩，但規則已經被那 114 份影響了——所以拿這個規則去評他們，評不出真實水準。

洩漏到底發生在哪一秒

關鍵在「平均值是怎麼算出來的」。攤開來看：

全部 569 筆的平均面積 = 654.9
                        ↑
   = (第 1 筆 + 第 2 筆 + 第 3 筆 + … + 第 569 筆) ÷ 569
                        ↑
        這個加總裡面，包含了之後要拿來當考卷的那 114 筆

PCA 更誇張。它找的主成分方向，是看整批資料往哪邊散開算出來的——而這批資料裡就有那 114 筆。等於那些「未來的新病人」早就參與過投影方向的設計。

同一筆資料，兩種做法算出來不一樣

光講原理還是很抽象，直接算給你看。以 mean area（平均面積）這一欄、第 1 折為例（以下全是實跑數字）：

用全部 569 筆算　　 平均 654.8891　標準差 351.6048   ← 錯誤版用這組
只用訓練折 455 筆算 平均 655.7248　標準差 364.2458   ← Pipeline 版用這組
                        ↑ 差 0.84        ↑ 差 12.64

兩組數字不一樣——因為前者多算進了 114 筆驗證資料。接著拿第 0 筆（它剛好是第 1 折的驗證資料，也就是「考卷」）來轉換：

第 0 筆的原始面積 = 1001.0

錯誤版：  z = (1001.0 − 654.8891) ÷ 351.6048 = +0.984375
正確版：  z = (1001.0 − 655.7248) ÷ 364.2458 = +0.947918
                        ↑
              同一筆資料，被轉換成兩個不同的數字

PCA 也一樣。用全部 569 筆算出的第一主成分方向，和只用訓練折 455 筆算出的方向，兩者夾角餘弦是 0.999530——非常接近但不相同。那 114 筆確實把方向拉動了一點點。

換成考試來想

假設老師要評估自己的教學成效，於是說：「我從班上 569 人裡挑 114 人當作『沒教過的學生』來測驗。」

洩漏出去的東西，具體長什麼樣

洩漏聽起來很抽象，但它有明確的存放位置——就是那幾個尾巴帶底線的屬性：

之後不管 cross_val_score 怎麼切折，模型拿到的都是用這幾組被汙染的數字轉換過的資料。切折切得再乾淨也沒用——資料在被切之前就髒了。

驗證折到底貢獻了哪些資訊

即使完全不看 y，驗證折仍然貢獻了這些關於 X 的資訊：

• 每一欄的平均值與標準差（被 StandardScaler 學走）
• 整體的變異程度與特徵之間的相關結構（被 PCA 學走）
• 因此主成分方向是為了「包含驗證折在內的那份資料」而最佳化的

後果：分數會虛高，而且你看不出來

模型真正上線時遇到的新病人，不可能參與過訓練時的平均值計算——那個人當時根本還沒來看診。

交叉驗證存在的意義，就是預先模擬這種「完全沒見過」的情況。而錯誤版沒有模擬到，它給的是一個比真實情況樂觀的數字。等到上線才發現落差，通常已經來不及了。

Pipeline 怎麼堵住這個洞

呼叫 pipe.fit(X_train, y_train) 時，內部自動這樣做：

前面每一站（scale、pca）→ fit_transform(訓練資料)      學參數 + 轉換
最後一站（clf）        → fit(轉換後資料, y_train)       訓練模型

呼叫 pipe.predict(X_val) 時：

前面每一站（scale、pca）→ 只呼叫 transform(驗證資料)     用訓練學到的參數，不重學
最後一站（clf）        → predict()

06ROC-AUC 是什麼

先把模型想成一台「風險評分器」

模型其實不只回答「是惡性還是良性」這種是非題。它做的第一件事，是給每位病人一個分數：

分數越高，模型越認為可能是惡性。要變成「是／不是」的答案，還得再畫一條線。

為什麼需要設定門檻

假設我們規定：風險 ≥ 50% 判定為惡性、< 50% 判定為良性。這個 50% 就是判定門檻。

但門檻不一定要是 50%，而且調高調低各有代價：

ROC 是什麼

既然門檻可以任意調，那乾脆全部都試一遍——10%、20%、30%……90%，然後在每個門檻下記錄兩件事：

• 真正的惡性病例，抓到了多少（縱軸）
• 良性病例，被誤判成惡性的比例是多少（橫軸）

把這些點連起來，就是 ROC 曲線。

AUC 是什麼

AUC 全名 Area Under the Curve，也就是 ROC 曲線下方的面積。它把整條曲線濃縮成一個數字，通常介於 0.5 到 1.0 之間：

這只是粗略解讀，實際好不好仍要看醫療、資安、金融等應用情境。實務上看到 1.0 通常要先懷疑資料洩漏。

最淺顯的理解方法

所以 ROC-AUC 評估的是——模型有沒有能力把兩種類別正確排序。它問的是排序能力，不是判斷力。

完美的模型   ●●●●●●●●●●●●●●●●│●●●●●●●●●●●   AUC = 1.0
             ← 一類全在左邊 ─┤─ 另一類全在右邊 →

沒用的模型   ●●○●○○●●○●○●●○●○○●●○●○●●○●●○●   AUC = 0.5
             ← 兩色交錯，排了等於沒排 →

跟 Accuracy 有什麼不同

所以 Accuracy 只代表模型在那個門檻下的結果；門檻一換，數字就變。AUC 不會——上面的實驗室拖門檻就能看到這件事。

用保全警報器來理解

假設一台警報器可以調整敏感度：

ROC 曲線就是測試這台警報器在各種敏感度下的表現；AUC 則用一個數字表示：這台警報器整體區分「真正入侵」與「正常狀況」的能力有多好。

放回你的程式裡

scores = cross_val_score(pipe, X, y, cv=cv, scoring="roc_auc")  # 跑 5 輪交叉驗證，得到 5 個 ROC-AUC 分數

看第 17 行

這一行的意思是：在每一折交叉驗證中，評估模型區分兩種類別的整體排序能力，而不只看固定門檻下的準確率。

最後得到五個分數（本題實跑）：

array([0.99384, 0.99770, 0.98412, 1.00000, 0.99870])

scores.mean()  → 0.9949    平均表現
scores.std()   → 0.0058    折與折之間的波動，越小越穩定

0.9949 代表這套 StandardScaler → PCA → LogisticRegression 具有很強的兩類區分能力。平均值回答「這個流程大概多強」，標準差回答「這個估計可不可信」——0.0058 很小，代表換一份資料表現也差不多。

補充：因為 ROC-AUC 需要連續的機率分數才能排序，sklearn 在 scoring="roc_auc" 時會自動去呼叫 predict_proba，而不是 predict，不需要你手動處理。

這份資料集的一個注意點

—回到題目：現在再作答一次

整段程式已經一行一行拆完了。先不要往下捲，回頭把同一題再做一次——這次應該不只是選對，而是說得出每個選項為什麼對、為什麼錯。

使用 scikit-learn 的 Breast Cancer 資料集評估 StandardScaler、PCA 與 LogisticRegression 的組合。下列寫法將前處理放入 Pipeline，再交由交叉驗證執行：相較於先在完整 X 上執行 scaler.fit_transform(X) 與 pca.fit_transform(X)，上述 Pipeline 在交叉驗證中最重要的優點為何？

 1  from sklearn.datasets import load_breast_cancer                       # 從 sklearn 的 datasets 模組，把「載入乳癌資料集」的函式拿到手上
 2  from sklearn.decomposition import PCA                                 # 拿 PCA（主成分分析），之後用來降維
 3  from sklearn.linear_model import LogisticRegression                   # 拿邏輯迴歸——名字是迴歸，工作是分類
 4  from sklearn.model_selection import StratifiedKFold, cross_val_score  # 一次拿兩樣：分層切折的規則＋跑交叉驗證的執行者
 5  from sklearn.pipeline import Pipeline                                 # 拿 Pipeline——把多個步驟串成一條生產線
 6  from sklearn.preprocessing import StandardScaler                      # 拿標準化工具——把每欄變成平均 0、標準差 1
 7
 8  X, y = load_breast_cancer(return_X_y=True)                            # 真正載入資料：特徵表裝進 X、答案裝進 y
 9
10  pipe = Pipeline([                                                     # 開始組生產線，存進 pipe（( 是呼叫、[ 是開清單）
11      ("scale", StandardScaler()),                                      # 第 1 站：標準化（"scale" 是自己取的名字）
12      ("pca", PCA(n_components=10)),                                    # 第 2 站：降到 10 維
13      ("clf", LogisticRegression(max_iter=2000))                        # 第 3 站：分類模型（行尾沒有逗號）
14  ])                                                                    # ] 關清單、) 關呼叫，生產線組完
15
16  cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)       # 切 5 折、切前先洗牌、亂數固定成 42
17  scores = cross_val_score(pipe, X, y, cv=cv, scoring="roc_auc")        # 跑 5 輪交叉驗證，得到 5 個 ROC-AUC 分數

07自我檢測

七題，答錯會直接告訴你錯在哪。

08重點整理

1. from A import B ＝去 A 這個模組，把 B 拿到手上，不執行任何運算。
2. 有括號才會動：PCA 是設計圖，PCA() 是做出來的機器。
3. 括號外的 = 是「存進箱子」，括號內的 = 是「指定參數」，所以 cv=cv 不是廢話。
4. sklearn 只有三個動詞：fit（學並記住）、transform（套用已學的）、predict（預測）。
5. StandardScaler 把每欄變成平均 0、標準差 1，讓 PCA 和 LogisticRegression 不被單位騙。決策樹家族不需要。
6. PCA 不是挑欄位，是重新加權混合造新欄位；它是非監督的，完全不看 y，所以不保證提高準確率。
7. LogisticRegression 名字是迴歸、工作是分類；max_iter 是上限不是固定次數，收斂了會提早停。
8. StratifiedKFold 確保每折的類別比例跟整體一樣；shuffle=True 要搭配 random_state 才能重現。
9. Pipeline 最大的價值不是少寫幾行，是不會把 fit 用錯地方。
10. 本題答案 A：每一折的前處理只從該折的訓練資料學參數，驗證折全程只被 transform，避免資料洩漏，交叉驗證分數才可信。

—考點提醒與常見問題

這一題橫跨中級科目二「大數據處理與分析」與科目三「機器學習」。歷屆最常見三種問法：①給你一段有 fit_transform(X) 在交叉驗證之前的程式，問「此寫法有何問題」——答案永遠是資料洩漏；②問「將前處理納入 Pipeline 的主要好處」——答案是每折獨立擬合前處理參數；③問 PCA 是否使用標籤、是否保證提升準確率——答案都是否。另外 StratifiedKFold vs KFold、random_state 的作用、ROC-AUC 為何優於 Accuracy 也都是高頻考點。程式題只要抓住「fit 只給訓練資料」這一條，幾乎都能秒殺。

相關主題