在機器學習中，模型有許多無法自動學習、必須由人工設定的「旋鈕」，稱為超參數 (Hyperparameters)（例如上方展示的學習率與樹的深度）。
網格搜尋就是將我們想測試的所有旋鈕刻度列出來組成一個「網格」，然後窮舉所有可能的組合，一一訓練並驗證分數，找出表現最穩定的一組。
雖然網格搜尋很徹底，保證能找到範圍內的最佳解，但它的運算成本極高。假設我們有 5 個超參數，每個有 5 種選擇，總共就需要訓練 5×5×5×5×5 = 3125 次模型！這在大型資料集上往往是不切實際的。
| 方法 | 做法 | 特點 |
|---|---|---|
| Grid Search | 窮舉所有參數組合 | 徹底但貴、維度災難 |
| Random Search | 隨機抽組合 | 同預算常更好、可控次數 |
| Bayesian／TPE | 用歷史結果聰明選下一組 | 更有效率、適昂貴評估 |
| 早停／低保真 | 提前砍差的、用小資料先篩 | 省算力 |
網格搜尋是 iPAS 超參數調校的考點(中級科目三)。重點:列出每個超參數的候選值、窮舉所有組合並以交叉驗證評估,挑出最佳組合。易混點:組合數隨參數量指數爆炸(維度詛咒),參數多時隨機搜尋常更有效率;且務必配交叉驗證、最後用獨立測試集確認。技巧:先粗後細、學習率用對數尺度掃,或改用貝氏優化更省力。
想練情境題與詳解 → AI 學習與考證地圖
超參數調校法；把每個超參數列出候選值，窮舉所有組合逐一訓練評估，挑出表現最好的組合。
優點是系統、可重現、易平行；缺點是組合數隨參數量指數爆炸(維度詛咒)，很多組合其實浪費。
參數少、範圍明確用網格(窮舉)；參數多時隨機搜尋常更有效率，能在相同預算下探索更廣的空間。
一定要配交叉驗證評估每組超參數，避免過擬合單一切分；最後在獨立測試集確認，別用測試集調參。
先粗後細(粗網格定範圍再細調)、用對數尺度掃學習率等，或改用貝氏優化等更聰明的搜尋。