⚡ 當前評估中組合
Depth: -


把學習率想成橫軸、樹深度想成縱軸;每一格就是一組設定。按下開始後,Mochi 會依序訓練、驗證並記住目前最高分。

在機器學習中,模型有許多無法自動學習、必須由人工設定的「旋鈕」,稱為超參數 (Hyperparameters)(例如上方展示的學習率與樹的深度)。
網格搜尋就是將我們想測試的所有旋鈕刻度列出來組成一個「網格」,然後窮舉所有可能的組合,一一訓練並驗證分數,找出表現最穩定的一組。
雖然網格搜尋很徹底,保證能找到範圍內的最佳解,但它的運算成本極高。假設我們有 5 個超參數,每個有 5 種選擇,總共就需要訓練 5×5×5×5×5 = 3125 次模型!這在大型資料集上往往是不切實際的。

| 方法 | 做法 | 特點 |
|---|---|---|
| Grid Search | 窮舉所有參數組合 | 徹底但貴、維度災難 |
| Random Search | 隨機抽組合 | 同預算常更好、可控次數 |
| Bayesian/TPE | 用歷史結果聰明選下一組 | 更有效率、適昂貴評估 |
| 早停/低保真 | 提前砍差的、用小資料先篩 | 省算力 |


Grid Search 最適合參數數量不多、候選範圍已經有方向,而且每次訓練成本可接受的情況。參數一多,就要改用隨機搜尋、貝氏最佳化或早停。
網格搜尋是 iPAS 超參數調校的考點(中級科目三)。重點:列出每個超參數的候選值、窮舉所有組合並以交叉驗證評估,挑出最佳組合。易混點:組合數隨參數量指數爆炸(維度詛咒),參數多時隨機搜尋常更有效率;且務必配交叉驗證、最後用獨立測試集確認。技巧:先粗後細、學習率用對數尺度掃,或改用貝氏優化更省力。
想練情境題與詳解 → AI 學習與考證地圖
超參數調校法;把每個超參數列出候選值,窮舉所有組合逐一訓練評估,挑出表現最好的組合。
優點是系統、可重現、易平行;缺點是組合數隨參數量指數爆炸(維度詛咒),很多組合其實浪費。
參數少、範圍明確用網格(窮舉);參數多時隨機搜尋常更有效率,能在相同預算下探索更廣的空間。
一定要配交叉驗證評估每組超參數,避免過擬合單一切分;最後在獨立測試集確認,別用測試集調參。
先粗後細(粗網格定範圍再細調)、用對數尺度掃學習率等,或改用貝氏優化等更聰明的搜尋。