單棵決策樹(CART)、隨機森林、梯度提升樹(GBDT),以及 XGBoost、LightGBM、CatBoost 等高效實作。
Bagging(如隨機森林)平行訓練多樹再平均、降低變異;Boosting(如 GBDT)序列訓練、每棵修正前一棵的錯、降低偏誤。
隨機森林好調、抗過擬合、平行快;梯度提升通常更準但較易過擬合、需細調學習率與樹數。
它們是梯度提升的高效實作,加入正則化、處理缺失值、速度快,在結構化(表格)資料競賽常奪冠。
可看分裂帶來的不純度下降或覆蓋次數,更穩健的是 permutation importance 或 SHAP 值。