強健性是模型面對雜訊、光線變化、分布外資料時,還能維持表現的能力。
靠資料增強、正則化與 OOD 偵測,讓模型不會一點風吹草動就崩潰。
強健性(Robustness)問的是:當真實世界和訓練時不太一樣時——雜訊更多、光線不同、出現沒看過的狀況——模型還能不能維持表現?一個強健的模型不會因為一點風吹草動就崩潰。
環境變了,表現只略降。
稍微變化就大幅失準。
遇到沒看過的資料。
差別:對抗式攻擊是「有人故意」騙模型;強健性更廣,包含自然的雜訊、環境變化、分布外資料(OOD)等非惡意狀況。
拖動環境變化程度(雜訊、光線、分布偏移),比較一個脆弱模型和一個強健模型的準確率怎麼掉。強健模型靠資料增強、正則化等手段,掉得慢很多。
兩個模型在乾淨資料上可能差不多,但環境一變,脆弱模型急速崩盤、強健模型穩穩撐住——這個「抗變化能力」就是強健性。
強健性(Robustness)指模型面對雜訊、分布變化或惡意輸入仍維持表現,iPAS 治理與可信 AI 考點(中級科目二)。重點:在乾淨測試集表現好不代表上線穩——輸入有小擾動、資料漂移、對抗樣本都可能讓它崩。易混點:強健性不等於準確率(後者只看一般情況);與資料漂移、對抗式攻擊密切相關。情境:自駕、金融風控等需在惡劣情況仍可靠的系統。
想練情境題與詳解 → AI 學習與考證地圖
模型面對雜訊、分布變化或惡意擾動時仍能維持穩定正確表現的能力,不會輸入稍變就大錯。
對抗樣本(刻意微擾)、資料漂移、雜訊與缺值、分布外輸入(OOD)、邊緣案例,這些都可能讓模型表現驟降。
對抗訓練、資料增強、正則化、整體(ensemble)、輸入驗證與異常偵測,以及對分布外輸入的偵測與保守處理。
有時取捨——過度追求乾淨資料準確率可能犧牲對擾動的穩健;高風險場景要兼顧穩健與準確,不能只看測試集分數。
上線環境多變且可能有攻擊;不穩健的模型在真實世界易失效或被利用,影響安全與信任。