訓練神經網路看兩個數字:Loss 越低越好、Accuracy 越高越好。
但真正的功夫,是看出訓練與驗證何時分岔——那就是過擬合的開始。
訓練神經網路時,最常盯著兩個數字:Loss(損失)——預測和答案差多少,越低越好;Accuracy(準確率)——猜對的比例,越高越好。但真正的關鍵,是同時看訓練集和驗證集這兩條線會不會分岔。
每一輪訓練,誤差應該逐步往下掉。
猜對的比例隨訓練逐步爬升。
訓練還在進步、驗證卻變差=開始背答案。
下圖是訓練過程:訓練 Loss 一路下降,但驗證 Loss 會先降後升。拖動訓練輪數 (epoch),找出驗證 Loss 最低的「甜蜜點」——再往後訓練,模型就開始死背訓練資料、失去泛化力了。
「Early Stopping」就是在驗證 Loss 開始回升的那一刻停手。訓練準確率永遠在漲,但別被它騙了——能上線的是驗證表現。
Loss(交叉熵 / MSE):優化的直接目標。Accuracy:分類任務最直觀的成績。訓練 vs 驗證的差距:診斷過擬合 / 欠擬合的關鍵。類別不均衡時還要看 F1。
ANN/MLP 等分類模型的評估是 iPAS 高頻考點(中級科目三)。重點:看混淆矩陣與其衍生指標——準確率、精確率、召回率、F1,以及機率排序能力的 ROC-AUC。易混點:不平衡時別只看準確率,改看 F1、PR-AUC;訓練表現好不代表泛化好,要用獨立測試集。情境:判斷該用哪個指標、解讀模型在測試集的表現。
想練情境題與詳解 → AI 學習與考證地圖
看任務對應指標:分類用準確率/F1/AUC、迴歸用 MAE/RMSE/R²;同時看訓練與驗證曲線判斷過擬合。
訓練誤差持續降、驗證誤差開始升代表過擬合;兩者都高代表欠擬合,學習曲線是診斷的關鍵。
損失(如交叉熵、MSE)是訓練時優化的目標、需可微;評估指標(如準確率、F1)是給人看的成效、未必可微,兩者可不同。
監控驗證指標與資料漂移;驗證停滯用 early stopping,過擬合就正則化或加資料,欠擬合就增容量。
只看訓練準確率(會過樂觀)、資料洩漏、用錯指標(不平衡只看 Accuracy)、沒有獨立測試集。