把特徵拆成兩個獨立視角,各訓練一個模型。
A 有把握的樣本拿去教 B,B 的也回來教 A——互補的眼睛看得更全面。
半監督式學習介於兩者之間:只有少量資料有標籤,但有大量沒標籤的資料。它想辦法讓沒標籤的資料也派上用場,省下昂貴的人工標註。
協同訓練把特徵分成兩種互補的視角(例如網頁的「文字內容」與「連入連結」)。各訓練一個分類器,然後A 把自己最有把握的樣本貼標籤教 B,B 也回頭教 A。兩個從不同角度看世界的模型互相補強。
兩個視角要夠獨立、又各自足以分類。這樣 A 有把握、B 沒把握的樣本,正好讓 A 教會 B。
左右是視角 A與視角 B兩個分類器。按「互相教學」:每一輪,A 把它高信心的樣本送去當 B 的新訓練資料,反之亦然。看兩邊的已知樣本如何交替成長。
箭頭代表「我教你」。A 確定的樣本對 B 可能是難題,反之亦然——互補的視角讓兩邊都能突破自己的盲點。
協同訓練是半監督學習法,iPAS 半監督考點(中級科目三)。重點:用資料的兩種不同視角(特徵子集)各訓一個模型,互相用對方高信心的預測標註未標註資料,善用大量未標註資料。易混點:關鍵假設是兩視角各自足以分類且條件獨立(常難滿足);與自訓練(單一模型自我標註)不同。情境:標註成本高、資料天然有多視角(如網頁內文與連結)。
想練情境題與詳解 → AI 學習與考證地圖
半監督法;用資料的兩種不同視角(特徵子集)各訓一個模型,互相用對方高信心的預測來標註未標註資料。
兩個視角各自足以分類、且彼此條件獨立;這樣一個模型的錯誤不會被另一個重複,能互補學習。
一個模型在某些樣本有把握、另一個沒把握;把有把握的偽標籤給對方,等於互相提供新的學習訊號。
天然有兩種互補視角的資料,如網頁(內文對連結文字)、多模態(影像對文字描述),兩視角能互相標註。
兩視角條件獨立且各自足以分類的假設常難滿足;若視角相關或都犯同樣錯,效果有限、甚至互相強化錯誤。