Regression · 連續數值預測

回歸問題

Regression · 預測「多少」的數字問題

分類問題回答「是哪一類」,回歸問題回答「是多少」。
核心就是找一條(或一個函數)最貼近資料的線,把預測誤差壓到最小。

ŷ = w·x + b  目標:最小化 Σ(y − ŷ)²
01 — 白話直覺

用一條線預測連續的數字

回歸要回答的是「多少?」這種數字問題:房價多少、明天氣溫幾度、廣告投多少帶來多少銷售。它和分類最大的差別是——答案是連續的數值,不是「貓 / 狗」這種類別。

線性回歸
一條直線

找一條最貼近資料的直線,最常見、最好懂。

多項式 / 曲線
彎曲

資料不是直線關係時,用曲線去貼合趨勢。

殘差
誤差

每個點到線的垂直距離就是誤差,回歸就是要把它整體變小。

關鍵詞:連續數值殘差越小越好的誤差。下一節你可以親手調一條線,看誤差怎麼變。

02 — 核心互動

親手調一條線,看誤差怎麼變

下面散布著一堆資料點。調整斜率截距,紅色細線就是每個點的殘差(預測與真實的差)。目標是讓 MSE(均方誤差)越小越好。按「自動最佳化」看電腦怎麼找到最佳線。

0.40
40
MSE 均方誤差
R²(解釋力)
狀態

把線調到穿過資料「正中間」時,紅色殘差總長最短、MSE 最小。這就是「最小平方法」在做的事。

MSE = (1/n) Σ (yᵢ − ŷᵢ)²  ŷ = slope · x + intercept
03 — 評估與選擇

怎麼知道回歸做得好不好?

回歸常用的評估指標:MAE(平均絕對誤差,直觀好懂)、MSE / RMSE(平方放大大誤差,對離群值敏感)、(模型解釋了多少變異,越接近 1 越好)。

優點

  • 輸出連續數值,能做精準預測與外推
  • 線性回歸結果可解釋(每個係數=影響力)
  • 訓練快、需求資料量相對少

缺點 / 限制

  • 線性模型抓不到複雜非線性關係
  • 對離群值(outlier)敏感,會被拉歪
  • 外推到資料範圍外時風險高

典型應用場景

🏠
房價預測
用坪數、地段、屋齡推估價格
📈
銷售預測
廣告投放 → 預期營收
🌡️
趨勢估計
溫度、需求、用電量等連續量

📝 iPAS 考點提醒

迴歸預測連續數值(房價、銷售額),是 iPAS 監督式學習的基本題型(初級科目一、中級科目三)。重點:用 MAE、MSE/RMSE、R² 評估,誤差越小、R² 越接近 1 越好。易混點:RMSE 對離群值敏感(平方放大)、MAE 較穩健;迴歸同樣會過擬合,需正則化(Ridge/Lasso)與交叉驗證。情境題常要你判斷該用哪個誤差指標,或解讀 R² 的意義。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

什麼是迴歸問題?

預測連續數值的監督式學習,如房價、氣溫、銷售額;相對地,預測離散類別(貓或狗)則是分類。

迴歸怎麼評估?

常用 MAE(平均絕對誤差)、MSE 與 RMSE(均方與其根號)、R 平方(決定係數);誤差越小、R 平方越接近 1 越好。

MAE 和 RMSE 怎麼選?

RMSE 對大誤差(離群)懲罰更重、對極端值敏感;MAE 較穩健、易解讀。在意大錯就看 RMSE。

常見的迴歸演算法?

線性迴歸、多項式迴歸、Ridge 與 Lasso、決策樹與隨機森林迴歸、梯度提升、SVR、神經網路。

迴歸也會過擬合嗎?

會;模型太複雜會記住雜訊。可用正則化(Ridge、Lasso)、交叉驗證、簡化模型來緩解。

🧭 相關主題

← 返回 AI 學習與考證地圖