做 AI 不是按一下訓練就好。模型開發是一條八階段的迭代流水線——
問題定義、EDA、清洗、特徵、切分、基準、訓練調參、評估,缺一不可。
很多人以為做 AI 就是「丟資料、按訓練、出模型」。其實真正寫 model.fit() 的時間不到 10%,前面的問題定義、資料清洗、特徵工程才是決定成敗的關鍵。模型開發是一條有順序、會回頭的流水線。
問題沒定義好,後面全白做。
評估不好,常要回去調特徵或資料。
清洗與特徵決定上限,模型只是逼近它。
這頁是整條「模型開發」路線的地圖。下面點任一步驟,看它在做什麼、為什麼重要、以及和前後步驟的關係。
下面是模型開發的8 個階段。點任一節點,看它的職責與重點;注意它是一條主線向右、但隨時可能回頭的迴圈——評估不佳就繞回特徵工程或資料清洗。
每個階段都有它的任務與常見陷阱,點一下看說明。
紅色虛線箭頭代表「迭代回頭」:模型評估沒過關,最常見的修法不是換模型,而是回去把資料和特徵做得更好。
大致為問題定義→資料蒐集與清理→特徵工程→選模型與訓練→驗證與調參→部署→監控與維運,是反覆迭代而非一次到位。
訓練與驗證集用來訓練與調參,若拿同一批評估會高估表現;獨立測試集只在最後評估一次,才能反映真實泛化能力。
驗證集用於調整模型(選超參數、早停);測試集用於最終評估,過程中不可拿來調整,否則等於間接洩漏、分數失真。
資料洩漏、用測試集調參、評估指標選錯(不平衡只看 Accuracy)、訓練與上線資料分布不一致、忽略基準線(baseline)比較。
先用簡單模型或規則當基準,才能判斷複雜模型是否真的有價值;若複雜模型贏不了基準,可能是資料或設定有問題。