A.I. TRUTH · 假引用這件事

為什麼 AI 會自信地
引用一本不存在的書?

作者、書名、頁碼樣樣齊全,唯一的問題是——它是假的。

往下捲,聽我唸給你聽
🎤

先講在前面:它引用起來一板一眼,作者、書名、年份、頁碼全都到齊。
格式專業到你想直接抄進報告——唯一的缺點是,那本書、那篇論文,世上根本不存在。
不信?我唸四個給你聽。

PART 01

它的假引用,長這樣

01 假引用是——

你要它幫論文找幾篇參考文獻,它給得超齊全,
作者、期刊、年份、卷號全都有,你拿去資料庫一查——查無此文,那幾篇它替學術界原創發表、還沒人寫過的論文。

02 假引用是——

你問它「有哪本書講這個主題」,它報了個書名,
作者是個真的名家,書名也像模像樣、封面你都想像得出來——但那位作者,這輩子從沒寫過這本書、連這個念頭都沒有過。

03 假引用是——

你要它引一句名人說過的話,它給得鏗鏘有力,
還幫你標明「出自某某某」,金句是漂亮,可惜那個人從沒說過這句——是它借了名人的嘴,替自己的話蓋了個假的權威章印。

04 假引用是——

最狠的是,你追問「你確定這是真的嗎」,
它不但不改口,還現場再補上一個 DOI 編號、一段摘要、幾個頁碼——把那個假的洞,越描越圓、越補越像真的給你看。

💬

看到這裡你可能會問:它引用得這麼一絲不苟,怎麼會全是假的?
關鍵就在——它學的不是「這本書的內容」,是「一個引用長什麼樣子」。
來看原理,這段有點料。

PART 02

為什麼會這樣?

01 原因是——

它腦中沒有一座真的圖書館,只有「引用長什麼樣」的一套格式感,
它太清楚一條文獻該有哪些零件——作者姓、逗號、年份、書名斜體、頁碼——於是它照著模子,現場拼一個給你。
它拼的是「像不像引用」,
不是「這篇到底存不存在」——這跟它掰假網址、假新聞一模一樣,引用只是它偽造品項裡最像真的那一款。

02 原因是——

引用這種東西,天生就「格式超規律」,
正是它最擅長模仿的那一類——真實的作者名、真實的期刊、真實的年份,被它排列組合成一條從沒存在過的文獻。
每個零件單看都是真的,
合起來卻是假的——就像用真的磚頭,砌了一棟地圖上根本沒有的房子,遠看堂堂正正,走近才發現是空的。

03 原因是——

它天生就有「補完的衝動」——你要文獻,它就非給不可,
就算它腦中根本沒有一篇真的符合,它也不會說「我找不到」,而是很貼心地、就地生一篇最像的給你,填滿那個空格。
對它來說「掰一篇」和「找一篇」是同個動作,
因為它從頭到尾都以為自己在幫忙——它不是想騙你,它只是太想給你一個「看起來很有學問」的答案。

04 原因是——

最危險的是——假引用比一般的胡說,更容易騙過你的戒心,
因為它披著「學術」「權威」的外衣,有作者、有頁碼、有專業格式,那份煞有其事,讓你下意識就想相信、懶得去查。
越正經的包裝,
越容易讓你放下防備——這也是為什麼,連律師、教授、研究生,都曾經栽在它這一手漂亮的假引用上、鬧出過大笑話。

💬

好,原理你懂了:它給的是「像引用的東西」,不是「真的引用」。
那很多人會問——「那給它上網查、讓它真的去找文獻,總不會再造假了吧?」
嗯……會好些,但先往下看。

PART 03

那讓它上網查文獻就不會造假了吧?

01 答案是——

你以為接上資料庫、給它搜尋的能力,
它給的每一篇文獻就都貨真價實、篇篇查得到、再也不用擔心它憑空捏造?

02 答案是——

會好很多——能查的它多半會去查、給你真的來源,
但它偶爾還是會「憑印象」補一篇,或把查到的真文獻,張冠李戴、把 A 的結論安到 B 的頭上——真假摻著給,還是要你自己一篇篇核。

03 答案是——

所以鐵律只有一條——「凡是它給的引用,一律去查證過才能用」,
尤其那些要放進報告、論文、正式文件裡的,你點開原文、確認那篇真的存在、真的講了它說的那句,才算數。
它給的引用是「線索」,
不是「證據」——把它當成「幫我找找看有沒有類似的方向」,而不是「直接抄進去的成品」,你就不會被它坑。

04 答案是——

更聰明的用法是——「反過來,你給它真的資料,叫它幫你讀」,
與其問它「有哪些文獻」讓它去掰,不如把你手上真實的論文、報告丟給它,叫它幫你摘要、幫你找重點——這它才在行。
讓它「消化你給的真東西」,
而不是「憑空生一個假的」——這一給一讀之間,你既用上了它的快,又躲開了它最愛掉的那個、假引用的坑。

🎤

所以下次它給你一串格式漂亮、作者頁碼俱全的引用,先別急著感動。
越是正經、越是專業、越像真的那一份,越值得你點開去查一查——因為最像真的那個,往往騙得最兇。
真正該記住的,其實只有一件事——

它給的不是「引用」,是「像引用的東西」;
用真磚頭,砌一棟地圖上沒有的房子;
任何文獻,點開原文、查證過,才能用。

🎯