Co-Training · 半監督式

協同訓練 Co-Training

兩個互補視角的模型,互相當老師

把特徵拆成兩個獨立視角,各訓練一個模型。
A 有把握的樣本拿去教 B,B 的也回來教 A——互補的眼睛看得更全面。

視角₁ ⊥ 視角₂ · 各自高信心樣本 → 教對方
01 — 白話直覺

兩個視角,互相當對方的老師

半監督式學習介於兩者之間:只有少量資料有標籤,但有大量沒標籤的資料。它想辦法讓沒標籤的資料也派上用場,省下昂貴的人工標註。

協同訓練把特徵分成兩種互補的視角(例如網頁的「文字內容」與「連入連結」)。各訓練一個分類器,然後A 把自己最有把握的樣本貼標籤教 B,B 也回頭教 A。兩個從不同角度看世界的模型互相補強。

關鍵前提

兩個視角要夠獨立、又各自足以分類。這樣 A 有把握、B 沒把握的樣本,正好讓 A 教會 B。

02 — 核心互動

看兩位老師互相補課

左右是視角 A視角 B兩個分類器。按「互相教學」:每一輪,A 把它高信心的樣本送去當 B 的新訓練資料,反之亦然。看兩邊的已知樣本如何交替成長。

視角 A 已知
視角 B 已知
輪數
0

箭頭代表「我教你」。A 確定的樣本對 B 可能是難題,反之亦然——互補的視角讓兩邊都能突破自己的盲點。

03 — 優缺點

協同訓練適合的條件

優點

  • 善用多視角/多模態資料的互補性
  • 兩模型互相糾錯,比單一自訓練穩
  • 理論上有不錯的收斂保證

缺點 / 限制

  • 需要能拆出兩個獨立且充分的視角
  • 視角不獨立時,等於兩個一樣的模型
  • 實作比自訓練複雜

典型應用場景

🌐
網頁分類
內文視角 + 連結視角
📧
郵件過濾
主旨視角 + 內文視角
🎬
多模態
影像視角 + 字幕視角

📝 iPAS 考點提醒

協同訓練是半監督學習法,iPAS 半監督考點(中級科目三)。重點:用資料的兩種不同視角(特徵子集)各訓一個模型,互相用對方高信心的預測標註未標註資料,善用大量未標註資料。易混點:關鍵假設是兩視角各自足以分類且條件獨立(常難滿足);與自訓練(單一模型自我標註)不同。情境:標註成本高、資料天然有多視角(如網頁內文與連結)。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

協同訓練(Co-training)是什麼?

半監督法;用資料的兩種不同視角(特徵子集)各訓一個模型,互相用對方高信心的預測來標註未標註資料。

它的關鍵假設?

兩個視角各自足以分類、且彼此條件獨立;這樣一個模型的錯誤不會被另一個重複,能互補學習。

為什麼兩個視角會互相幫忙?

一個模型在某些樣本有把握、另一個沒把握;把有把握的偽標籤給對方,等於互相提供新的學習訊號。

適合什麼資料?

天然有兩種互補視角的資料,如網頁(內文對連結文字)、多模態(影像對文字描述),兩視角能互相標註。

協同訓練的限制?

兩視角條件獨立且各自足以分類的假設常難滿足;若視角相關或都犯同樣錯,效果有限、甚至互相強化錯誤。

🧭 相關主題

← 返回 AI 學習與考證地圖