高準確率不等於可以信任。可信賴 AI 要求準確、可解釋、公平、安全、保護隱私、有人負責——
而且只要一根支柱垮掉,整體信任就崩。
一個準確率很高的模型,不代表能放心交給它做決定。可信賴 AI(Trustworthy AI)是一套整體要求:除了準,還要能解釋、公平、安全、保護隱私、有人負責。它是治理與倫理這一章的總綱,下面各節點都是它的支柱。
讓人放心把決定交給 AI。
不同情況下都穩定、不亂跳。
能交代「為什麼這樣判」。
記法:可信賴 = 準 + 透明(可解釋)+ 公平 + 安全 + 隱私 + 當責(有人負責)。
可信賴不是單一指標,而是多個面向的綜合。拖動下面各支柱的分數,看整體信任度怎麼變——注意:只要有一根支柱太低,整體就垮(最弱的環節決定信任)。
把任一根拉到很低,整體信任就崩——因為使用者只要在一個面向被坑(例如被歧視、被洩個資),就不會再相信這個 AI。
可信賴 AI 是 iPAS 治理的整合性考點(初級科目一、中級科目二)。重點:涵蓋公平、透明可解釋、可究責、隱私、安全、穩健等原則,呼應歐盟 AI Act、台灣 AI 指引等規範。易混點:不是單一技術而是一套治理原則與流程;高風險應用要求更嚴(人工監督、文件、可解釋)。情境:企業導入 AI 的治理框架、判斷某做法是否符合負責任 AI。
想練情境題與詳解 → AI 學習與考證地圖
讓 AI 系統值得信賴的一套原則與實務,通常涵蓋公平、可解釋、穩健、隱私、安全、問責與透明等面向。
公平(無歧視)、可解釋(可理解決策)、穩健可靠(抗干擾)、隱私保護、安全、透明與可問責,對應各國 AI 治理框架。
AI 進入高風險決策(醫療、金融、司法)、法規(EU AI Act)上路、社會關注偏誤與濫用;不可信的 AI 會造成傷害與法律風險。
從資料治理、偏誤檢測、可解釋工具、對抗測試、隱私技術(去識別、差分隱私)、人為監督到文件與稽核,貫穿開發到上線。
AI 治理與倫理是 AI 應用規劃師的職責;了解可信任 AI 的面向才能在導入時評估與管理風險。