MLP(多層感知器)是所有深度網路的起點:輸入層、隱藏層、輸出層,層與層之間全連接。訊號一路加權、加偏差、過激活函數往後傳,就能學會複雜的「輸入 → 輸出」對應。
ANN 模仿人腦神經元:每個神經元收到很多訊號、加權整合、再決定要不要「興奮」傳下去。
拖動兩個輸入 $x_1$、$x_2$,看訊號怎麼流過網路。神經元越藍=激活值越高;連線藍色是正權重、紅色是負權重,粗細代表大小。按「隨機重置權重」換一組參數。
資料怎麼從輸入變成輸出?每個神經元都做同一件事:
| 資料型態 | 適合的網路 | 為什麼 |
|---|---|---|
| 表格 / 向量 | MLP | 一般用途、夠用 |
| 影像 | CNN | 局部連接、權重共享,抓空間特徵、省參數 |
| 序列 / 文字 | RNN/LSTM、Transformer | 處理先後順序與長距依賴 |
先想再點開。
輸入層、隱藏層、輸出層,層間全連接。
$y = \sigma(\sum w_i x_i + b)$:加權和 + 偏差,再過激活函數。
沒有非線性,多層線性疊加仍等於一個線性模型,學不到非線性關係。
前向傳播算損失 → 反向傳播算梯度 → 梯度下降更新,反覆迭代。
會參數爆炸又沒利用空間結構;改用 CNN(局部連接、權重共享)。
人工神經網路(ANN/MLP)是深度學習的基礎,iPAS 必考(初級科目一、中級科目三)。重點:由輸入、隱藏、輸出層的神經元組成,靠激活函數帶非線性、用反向傳播與梯度下降學參數。易混點:全連接 MLP 對影像沒有 CNN 的空間結構優勢(參數爆炸);層多不一定好(會過擬合、梯度消失)。情境:理解神經網路基本單元;表格資料可用、影像或序列改用 CNN 或 Transformer。
想練情境題與詳解 → AI 學習與考證地圖
最基本的前饋神經網路,由輸入層、一或多個隱藏層與輸出層組成,層間全連接,透過非線性激活學習複雜的輸入到輸出映射。
若沒有非線性激活,多層線性疊加仍等於一個線性模型、學不到非線性關係;ReLU、sigmoid、tanh 等提供非線性,網路才有表達力。
前向傳播算出預測與損失,再用反向傳播(backpropagation)沿鏈式法則算各權重梯度,並以梯度下降更新權重,反覆迭代。
MLP 適合一般表格或向量資料;影像有空間結構用 CNN(局部連接、權重共享);序列或時間相依用 RNN/LSTM 或 Transformer,效率與效果更好。
過擬合(用 Dropout、正則化、早停)、梯度消失(用 ReLU、BatchNorm、合適初始化)、對特徵尺度敏感(先標準化)。