CNN 的逐層視覺化幫助理解黑盒,iPAS 影像考點(中級科目一與三)。重點:淺層濾鏡學邊緣、顏色、紋理等低階特徵,深層學眼睛、輪子等高階部件;特徵圖亮處代表偵測到該特徵。易混點:卷積抓局部、池化降維;深層感受野更大、看得更廣;Grad-CAM 可看模型關注的熱區。情境:解釋 CNN 為何如此判斷、除錯與建立信任。
想練情境題與詳解 → AI 學習與考證地圖
神經網路像黑盒；視覺化特徵圖與濾波器能看模型在每層關注什麼，幫助理解、除錯與建立信任。
某濾波器掃過輸入後的響應強度圖；亮處代表該位置出現了該濾波器偵測的特徵(如某方向邊緣)。
淺層響應邊緣、顏色、紋理等低階特徵；深層響應眼睛、輪子等高階、語意性的部件或物件。
某層某神經元看得到的輸入區域大小；越深層感受野越大、能整合更廣範圍資訊(從局部邊緣到整個物件)。
直接看特徵圖與濾波器、用 Grad-CAM 看模型關注的熱區、用反卷積或顯著圖找影響輸出的像素。