拿影本去印影本，印著印著就糊成一團。
先講在前面：它不是學壞了，也不是變笨了。
是它吃的東西，從「真實世界」慢慢變成了「別的 AI 吐出來的二手貨」——近親繁殖，遲早出事。
不信？我唸四個給你聽。
你拿 AI 生的文章,去餵下一代 AI 學,
學個幾輪之後,它寫的東西越來越平、越來越空、越來越像同一個模子刻出來的複製格。
你叫它把自己的圖,拿去當教材再訓練一輪,
幾代之後那些圖,細節糊成一片、色彩越來越髒,像影本印影本、一代比一代模糊失了真。
原本它還懂一些冷門的、稀奇的知識,
學了幾輪二手貨後,那些少見的東西默默消失,它只剩下最大眾、最平庸、最不會出錯的那一小撮。
它把自己的口頭禪、自己的偏好一代代傳下去,
越傳越誇張,最後所有 AI 講話都一個腔、寫東西都一個味,整個世界的文字被熬成了同一鍋粥的乏味。
看到這裡你可能會問:學自己生的東西,不是省事又方便嗎?怎麼會越學越糟?
關鍵就在——它學的不是「世界」,是「上一個 AI 眼中的世界」,誤差就這樣一代一代地被濃縮放大。
來看原理,這段有點料。
AI 生的東西,本來就是「世界的平均值」,
它抓的是最常見、最中間的那一塊,天生就會把邊邊角角、稀有獨特的東西給省略。
你再拿這個平均值去餵,
它就再取一次平均的平均——一輪一輪,那些珍貴的稜角和多樣性,就這樣被磨得一乾二淨了。
就像影本去印影本,每印一次就掉一點細節,
第一張還看得清,印到第十張,字都糊了、線都歪了、原稿的模樣早就認不得。
AI 學 AI 也一樣,
每一代都在上一代的模糊上再模糊,誤差不會自己修好,只會一層一層疊上去越積越厚了。
它會偏愛「自己最容易生出來的那種」,
常見的講法一再被複製、被強化,冷門的、少數的、不主流的,就一輪輪地被稀釋、被遺忘、被淘汰。
多樣性是慢慢流失的,
不是一次崩掉,是溫水煮青蛙——等你發現世界變單調了,豐富的東西早就悄悄地不見了大半。
更麻煩的是——現在網路上,AI 生的內容越來越多,
下一代 AI 想找「純天然的人類資料」來學,反而越來越難、越來越像大海撈針的苦。
乾淨的水源正在被稀釋,
未來的模型一不小心,就會在不知不覺中,喝下一大口混著上一代 AI 口水的回收水。
好,原理你懂了:它學二手貨,就像影本印影本,一代糊過一代。
那很多人會問——「那 AI 是不是遲早會自己把自己餵壞、越來越笨?」
嗯……不一定,關鍵在人,往下看。
你可能開始擔心,網路被 AI 內容淹沒之後,
模型是不是註定越吃越糟、越變越蠢,最後集體退化成一團扶不起的爛泥漿糊?
會不會壞,關鍵不在 AI,在「餵它的人有沒有把關」,
閉著眼睛把網路整包倒進去,才會出事;懂得篩、懂得挑,結果就完全不一樣的天差。
混一些真實的人類資料進去,
保留住那些珍貴的稜角和多樣,這鍋湯就不會越熬越淡、越煮越沒了味道和層次。
而且 AI 生的資料也不是全是毒,用得好也能是補藥,
刻意生成、精挑細選、拿來補足某個缺口的「合成資料」,反而能讓模型學得更快更巧。
差別在「有沒有腦子地餵」,
是隨手回收餿水、還是精心調配營養餐,這一念之間,決定它是退化還是變得更強壯茁壯又美好。
所以這件事,說到底還是回到我們人身上,
真實的、原創的、由人親手做出來的東西,在這個 AI 遍地的時代,反而變得前所未有地珍貴稀罕。
你寫的、你拍的、你想的,
那些帶著人味、帶著稜角的原創,才是餵養未來、也守住這個世界不被熬成同一鍋粥的、最後的活水源泉。
所以下次有人說「AI 遲早自己把自己玩壞」,你可以笑著補一句。
它壞不壞,不是它自己決定的,是餵它的人,有沒有替它留住那口乾淨的、真實的活水。
真正該記住的,其實只有一件事——
它學二手貨,就像影本印影本,一代糊過一代;
它會不會壞,關鍵不在它,在餵它的人懂不懂篩;
在 AI 遍地的時代,真實而原創的東西,反而最珍貴。