打破迷思：排得整整齊齊，反而錯失良機！
| 面向 | Grid Search | Random Search |
|---|---|---|
| 取樣 | 窮舉網格 | 隨機抽組合 |
| 成本 | 隨參數指數成長 | 可控(指定次數) |
| 連續參數 | 需離散化 | 直接抽分布 |
| 效率 | 浪費在不重要維度 | 同預算常更快找到好解 |
隨機搜尋是超參數調校法,iPAS 中級科目三考點。重點:在超參數空間隨機抽組合評估,固定預算下常比網格搜尋更快找到好組合。易混點:多數情況只有少數超參數真正重要,隨機搜尋能對重要參數試到更多值、不浪費在網格交點;結果有隨機性需足夠次數。情境:參數多時優於網格;更進階可用貝氏優化、Hyperband。
想練情境題與詳解 → AI 學習與考證地圖
在超參數空間中隨機抽取組合來訓練評估，而非窮舉網格；在固定預算下常比網格更快找到好組合。
多數情況只有少數超參數真正重要；隨機搜尋能對重要參數試到更多不同值，不浪費在不重要參數的網格交點。
結果有隨機性、不保證掃到最佳區域，需設定合理的取樣分布與足夠次數；預算太少可能漏掉好組合。
對學習率、正則化強度等用對數均勻分布；對離散選項用類別分布；範圍依經驗與粗掃結果界定。
有：貝氏優化(用代理模型挑下一組)、Hyperband 與 BOHB(動態分配資源)等，在大搜尋空間更有效率。