🗺️ AI 學習與考證地圖
深度學習 · 圖結構資料

圖神經網路 GNN

資料不是一格一格的圖片,也不是一條線的句子,而是「誰跟誰有關係」的一張網。GNN 讓每個節點去問鄰居,把關係也一起學進去。

節點與邊訊息傳遞聚合幾層=幾跳過度平滑

💡一句話定義

圖神經網路(GNN,Graph Neural Network)= 專門處理「節點+邊」這種關係資料的神經網路。每個節點反覆做三件事:收鄰居的訊息 → 聚合 → 更新自己,最後得到一個同時記住「自己的特徵」和「周圍關係」的向量。

這裡的「圖」是 Graph(關係網),不是圖片(Image)。一張圖由兩種東西組成:

🗣️用「打聽消息」來想

班上來了一位轉學生,你想知道他是怎樣的人。只看他本人不夠,你還會看他都跟誰走在一起。問一輪,你知道他朋友的狀況;再問一輪,他朋友的朋友的消息也傳過來了。GNN 做的就是這件事:每一層,全部的節點同時向鄰居打聽一輪。

所以 2 層的 GNN,每個節點能「看到」2 跳以內的鄰居。物以類聚的資料特別適合:詐騙帳號常互相往來、同領域的論文會互相引用、買過同一樣東西的人口味相近。

🧭先看資料長什麼形狀,再選模型

整齊的格子 → CNN
影像。每一格的鄰居都是固定的上下左右。
一條線 → RNN/Transformer
文字、語音、時間序列。有明確的前後順序。
關係網 → GNN
社群、交易、分子、路網。鄰居數不固定,也沒有先後順序。
為什麼不能直接拿 CNN 來用?卷積核要求每個位置的鄰居「數量固定、位置固定」。圖上的節點,有人 2 個朋友、有人 2,000 個,鄰居也沒有誰排第一。所以 GNN 的聚合方式必須跟鄰居的順序無關:平均、加總、取最大都符合這個條件。

🎮互動:訊息一輪一輪傳

下面是 9 個社群帳號,圈圈裡的數字是「可疑程度」(0 正常,100 很可疑)。帳號 X、Y、Z 已知有問題,新帳號自己看不出好壞(50)。按「傳遞一輪」,看每個帳號怎麼被鄰居影響;點任何一個帳號,可以看它下一輪的算式。

訊息傳遞實驗室

每按一次=GNN 多疊一層=每個帳號多看一跳鄰居

聚合方式:
正常 0100 可疑 你點的帳號 它的鄰居 訊息已經傳得到的範圍
已傳 0 輪
帳號之間的差異100%
試試看:先傳 1~2 輪,新帳號的數字被旁邊的可疑帳號拉高,這就是 GNN 有用的地方。再按「連傳 10 輪」,所有帳號的數字越來越接近,最後分不出誰可疑——這叫過度平滑(over-smoothing),也是 GNN 通常只疊 2~3 層的原因。

🧮一層 GNN 在算什麼

① 訊息 Message每個鄰居把自己目前的向量送過來。
→
② 聚合 Aggregate把收到的訊息合成一份:平均、加總、取最大,或用注意力加權。
→
③ 更新 Update乘上要學的權重、過激活函數,得到這個節點的新向量。
hv(k) = σ( W(k) · AGG{ hu(k−1) : u ∈ N(v) ∪ {v} } )

hv 是節點 v 的向量、N(v) 是 v 的鄰居、AGG 是聚合函數、W 是這一層要學的權重、σ 是激活函數。重點有兩個:同一層所有節點共用同一組 W(跟 CNN 的權重共享同一個道理),而且所有節點是同時更新的,用的都是上一層的值。

訓練 GNN 要給它兩樣東西:節點特徵矩陣 X(每個節點一列)和圖怎麼連(鄰接矩陣 A,或一份邊的清單)。少了第二樣,它就只是一般的神經網路。

🎯GNN 可以回答三種層級的問題

🔵節點層級
這個節點是哪一類?例:這個帳號是不是詐騙、這篇論文屬於哪個領域。常見做法是只有少數節點有標籤的半監督式節點分類。
🔗邊層級
這兩個節點之間該不該有邊?例:你可能認識的人、你可能會買的商品、知識圖譜缺了哪條關係。也叫鏈結預測。
🕸️整張圖層級
這一整張圖是什麼?例:這個分子有沒有毒性。要先把所有節點的向量彙總(readout/池化)成一個向量,再做預測。

🏷️常見的 GNN 家族

模型聚合方式記這一句
GCN把自己和鄰居的向量做正規化後的平均最基本的圖卷積;原始做法是整張圖一起算
GraphSAGE每次只抽樣一部分鄰居再聚合適合很大的圖,也能處理訓練時沒看過的新節點
GAT用注意力幫每個鄰居算不同的權重鄰居不是一樣重要時用它
GIN加總分辨不同圖結構的能力強,常用在整張圖的分類

GAT 用的注意力,和 Transformer 的注意力機制是同一個想法:不是每個鄰居都一樣重要,讓模型自己學該聽誰的。

⚠️什麼時候用、什麼時候別用

情境建議原因
詐騙/洗錢偵測適合可疑帳號之間的轉帳、共用裝置,這些關係本身就是線索
推薦系統適合使用者和商品是一張「誰買過什麼」的圖,可以做鏈結預測
分子、藥物性質適合原子是節點、化學鍵是邊,是天然的圖
交通路網、知識圖譜適合路口與道路、實體與關係,都是節點和邊
一般表格資料不必每一列之間沒有關係,樹模型或 MLP 更簡單也更有效
影像、文字不必已經有更合適的 CNN、Transformer

容易踩到的地方

🆚CNN、RNN、GNN 對照

面向CNNRNNGNN
資料形狀格子(影像)序列(文字、時間)圖(節點+邊)
鄰居固定的上下左右前一個、後一個數量不固定、沒有順序
核心運算卷積核滑動隱藏狀態往下傳訊息傳遞+聚合
參數共享同一個卷積核掃全圖每個時間步共用權重同一層所有節點共用權重
看多遠疊越多層,看到的範圍越大序列越長,越前面的越容易忘幾層就看幾跳,太多層會過度平滑
典型應用影像分類、物件偵測語音、時間序列詐騙偵測、推薦、分子性質

考題給情境要你選模型時,先問自己:這份資料最重要的訊息,是藏在「位置」、「順序」,還是「誰跟誰有關係」?答案是關係,就往 GNN 想。

💻程式長什麼樣

中級科目三會出程式題。GNN 常見的寫法是 PyTorch 加上 PyTorch Geometric(PyG)這個套件,兩層 GCN 做節點分類大概長這樣:

import torch
import torch.nn.functional as F
from torch_geometric.nn import GCNConv

class GCN(torch.nn.Module):
    def __init__(self, in_dim, hidden, n_class):
        super().__init__()
        self.conv1 = GCNConv(in_dim, hidden)     # 第 1 層:看 1 跳鄰居
        self.conv2 = GCNConv(hidden, n_class)    # 第 2 層:看到 2 跳

    def forward(self, x, edge_index):
        x = F.relu(self.conv1(x, edge_index))
        x = F.dropout(x, p=0.5, training=self.training)
        return self.conv2(x, edge_index)

out  = model(data.x, data.edge_index)
loss = F.cross_entropy(out[data.train_mask], data.y[data.train_mask])

✅自我檢測

Q1. GNN 的一層到底做了什麼?
每個節點收鄰居目前的向量(訊息),把它們聚合成一份(平均、加總、取最大或注意力加權),再乘上權重、過激活函數,更新成自己的新向量。所有節點同時做,而且共用同一組權重。
Q2. GNN 疊 3 層,一個節點最遠能拿到幾跳以外的訊息?
3 跳。每多一層,訊息就多傳一步,所以層數=看得到的跳數。
Q3. 為什麼 GNN 不像 CNN 那樣疊到幾十層?
疊太多層會過度平滑:每個節點都混進大範圍的訊息,向量越來越像,模型反而分不出差別。實務上常用 2~3 層。
Q4. 銀行有每個帳戶的基本資料,也有帳戶之間的轉帳紀錄,想找出洗錢集團,適合用哪一類模型?
GNN。帳戶是節點、轉帳是邊,洗錢的線索藏在「誰轉給誰」的關係裡。只用帳戶自己的欄位去訓練表格模型,會漏掉這些關係。
Q5. 圖很大,還會一直出現新節點,GCN、GraphSAGE 哪個比較合適?
GraphSAGE。它每次只抽樣一部分鄰居,算得動大圖;學到的是「怎麼聚合鄰居」的方法,所以沒看過的新節點也能直接算出向量。
Q6. 平均、加總、取最大,為什麼都可以當聚合函數?
因為它們的結果跟鄰居的排列順序無關。圖上的鄰居沒有誰先誰後,聚合函數必須符合這一點。

📌重點整理

延伸閱讀