Loss · Accuracy · Overfitting

神經網路的評估指標

Loss 下降 × Accuracy 上升 × 過擬合診斷

訓練神經網路看兩個數字:Loss 越低越好、Accuracy 越高越好。
但真正的功夫,是看出訓練與驗證何時分岔——那就是過擬合的開始。

Loss = 交叉熵 / MSE · Accuracy = 猜對 / 全部
01 — 白話直覺

神經網路訓練,到底在看哪兩條線?

訓練神經網路時,最常盯著兩個數字:Loss(損失)——預測和答案差多少,越低越好Accuracy(準確率)——猜對的比例,越高越好。但真正的關鍵,是同時看訓練集驗證集這兩條線會不會分岔。

Loss 下降
越低越好

每一輪訓練,誤差應該逐步往下掉。

Accuracy 上升
越高越好

猜對的比例隨訓練逐步爬升。

過擬合
兩線分岔

訓練還在進步、驗證卻變差=開始背答案。

02 — 核心互動

拖動訓練輪數,抓出過擬合的轉折

下圖是訓練過程:訓練 Loss 一路下降,但驗證 Loss 會先降後升。拖動訓練輪數 (epoch),找出驗證 Loss 最低的「甜蜜點」——再往後訓練,模型就開始死背訓練資料、失去泛化力了。

20
訓練準確率
驗證準確率
狀態

「Early Stopping」就是在驗證 Loss 開始回升的那一刻停手。訓練準確率永遠在漲,但別被它騙了——能上線的是驗證表現。

03 — 指標一覽

訓練神經網路要看哪些數字?

Loss(交叉熵 / MSE):優化的直接目標。Accuracy:分類任務最直觀的成績。訓練 vs 驗證的差距:診斷過擬合 / 欠擬合的關鍵。類別不均衡時還要看 F1

優點

  • Loss 連續可微,是模型優化的直接依據
  • Accuracy 直觀、好溝通
  • 訓練/驗證雙線能即時診斷過擬合

缺點 / 限制

  • Accuracy 在類別不均衡時會嚴重失真
  • Loss 數值本身難跨任務比較
  • 只看訓練指標會被過擬合騙過去

典型應用場景

🔢
影像分類
MNIST / CIFAR 看 Loss + Accuracy
🩺
醫療預測
不均衡時改看 F1 / AUC
🛑
Early Stopping
用驗證 Loss 決定何時停訓

📝 iPAS 考點提醒

ANN/MLP 等分類模型的評估是 iPAS 高頻考點(中級科目三)。重點:看混淆矩陣與其衍生指標——準確率、精確率、召回率、F1,以及機率排序能力的 ROC-AUC。易混點:不平衡時別只看準確率,改看 F1、PR-AUC;訓練表現好不代表泛化好,要用獨立測試集。情境:判斷該用哪個指標、解讀模型在測試集的表現。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

神經網路(ANN)怎麼評估?

看任務對應指標:分類用準確率/F1/AUC、迴歸用 MAE/RMSE/R²;同時看訓練與驗證曲線判斷過擬合。

為什麼要看訓練與驗證曲線?

訓練誤差持續降、驗證誤差開始升代表過擬合;兩者都高代表欠擬合,學習曲線是診斷的關鍵。

損失(loss)和評估指標差在哪?

損失(如交叉熵、MSE)是訓練時優化的目標、需可微;評估指標(如準確率、F1)是給人看的成效、未必可微,兩者可不同。

怎麼知道要不要再訓練或調整?

監控驗證指標與資料漂移;驗證停滯用 early stopping,過擬合就正則化或加資料,欠擬合就增容量。

ANN 評估常見陷阱?

只看訓練準確率(會過樂觀)、資料洩漏、用錯指標(不平衡只看 Accuracy)、沒有獨立測試集。

🧭 相關主題

← 返回 AI 學習與考證地圖