它不是有壞心眼，它只是照著我們的樣子長大。
先講在前面：它不是故意歧視，也不是自己有立場。
它像一面鏡子，照出來的偏心，其實是我們人類自己寫下的那些歪。
不信？我唸四個給你聽。
你請它畫一個「老闆」,它畫了個西裝男,
再請它畫「護理師」,十張有九張是女生——刻板印象它畫得比誰都熟練。
你用不同名字投同一份履歷給它評,
內容明明一模一樣,它給的分數卻悄悄不同、連自己都沒察覺這份不公平。
你用冷門語言、小眾文化去問它,
它答得零零落落,因為它讀的資料裡,那些聲音本來就又稀又細又被邊緣化。
你問一個有爭議、兩派吵不停的話題,
它嘴上說中立,實際卻不知不覺偏向網路上聲量大的那一邊倒了過去。
看到這裡你可能會問:它又沒有情緒立場,偏心是哪來的?
關鍵就在——它吃什麼、就長成什麼;資料裡有什麼歪,它就學了什麼斜。
來看原理,這段有點料。
它的養分,是我們人類寫下的海量文字,
那裡面藏著幾百年的偏見、刻板、不公平和歧視。
它照單全收、來者不拒,
我們有什麼歪,它就學什麼斜,一絲一毫都複製。
資料本身就不平均,有的聲音大、有的小,
主流講得多、它就記得牢;邊緣講得少、它就學得潦草。
不是它偏愛誰,
是這世界給它的教材,一開始就已經厚此薄彼、分量不對稱地傾倒。
它學的是「統計上最常見」,不是「道德上最該對」,
多數人怎麼講,它就跟著怎麼想,把常見誤當成正確。
它沒有是非的良知,
只有機率的慣性——哪個組合出現得多,它就往哪邊自動地靠倒。
更棘手的是——它的偏心藏得很深、很難全抓,
工程師堵了一個洞,它又從另一個縫悄悄地漏了下來。
偏見不是一顆按鈕能關掉,
它織進了語言的每一根纖維裡,你拆得再細,總有幾條藏在暗處逃過。
好,原理你懂了:它的偏心,是照抄我們自己的偏心。
那很多人會想——「那工程師用力調、努力修,總能修成完全公正吧?」
嗯……會好,但先往下看。
你以為工程師拚命調、狠狠修,
就能把偏見連根拔起、還你一個絕對中立的完美機頭?
能減輕,但很難歸零,按下這頭那頭又冒,
而且「什麼叫公正」本身就沒共識——你的中立,可能是別人眼中的偏了跑。
矯枉有時還會過正,修得太用力也出包,
為了平衡硬套設定,反而鬧出更荒謬、更尷尬的另一種顛倒。
公正不是一個終點,
是一條要一直走、一直校準、永遠到不了盡頭的長路要繞。
所以別把它的答案,當成不偏不倚的鐵口直斷,
尤其碰到人、碰到評價、碰到敏感的判斷,你多問一句「還有沒有別的角度」,多聽幾種不同的聲音來對看。
它會偏,你要清醒,
把它當參考不當裁判,這面鏡子才照得出比較完整的真相和答案。
所以下次它給了一個聽起來很客觀的判斷,先想一秒。
它照出來的,不一定是真相,而是我們這個世界本來就有的傾斜和偏好。
真正該記住的,其實只有一件事——
它的偏心,是照抄我們的偏心;
它是一面鏡子,不是一把公正的尺;
多聽幾種聲音,你才照得出完整的真相。