《月光郵差：霧港未寄出的第十三封信》是林以安於 2018 年出版的小說，由晨霧文化發行。
故事描寫一名夜間郵差替人們送出無法說出口的思念。
MOCHI 圖解 AI
AI 為什麼會一本正經地說錯話？
先不要背名詞。一起看一個答案，怎麼從「很像真的」變成「原來沒有證據」。
一個完整得讓人相信的答案
以下書籍與資料均為虛構示例。
請介紹《月光郵差：霧港未寄出的第十三封信》這本書的作者、出版年份與主要內容。
作者、年份、出版社與摘要都在，句子也很完整，看起來像一份可以直接相信的介紹。
先查證
可是，這本書找不到
Mochi 想找出版社頁面、圖書館館藏與可信書目，卻找不到資料可以證明剛才那些細節。
那剛才的作者、年份、出版社與摘要，是從哪裡來的？
逐項檢查後，作者、年份、出版社與摘要都沒有找到可靠證據。
- 作者：沒有找到可靠證據。
- 年份：沒有找到可靠證據。
- 出版社：沒有找到可靠證據。
- 內容摘要：沒有找到可靠證據。
要回答這個問題，得把剛才的文字倒帶。
把文字倒帶
把回答倒帶，就會看見它怎麼長出來
LLM 是在猜接下來怎麼說最像人話，不是在自動確認事情是不是真的。
- 這個書名很像小說
- 小說通常有作者
- 接一個像作者的名字
- 再接一個合理年份
- 最後補上出版社與情節
模型會根據提示、前面已生成的內容，以及訓練中學到的語言模式，預測接下來可能的 token；它不是每次都先從可信資料庫取得一份完整事實再朗讀。
這就是為什麼流暢不等於正確：文字能順著常見模式接下去，卻沒有保證每一個細節都有根據。
猜測會接力
第一個猜測，帶出後面一整串細節
前面生成的內容也會成為後面看到的上下文。
若最早出現的是沒有根據的作者，後面的年份、出版社與內容摘要就可能順著那個設定繼續長出來，彼此看起來還很一致。
細節越多，只代表故事接得越完整；沒有證據時，細節也可能只是更多猜測。
不過，長答案不一定錯，錯誤也不一定每次都會放大；重點仍是每個重要主張能不能回到來源核對。這類問題可分成事實性幻覺與忠實性幻覺：前者違反可驗證事實，後者沒有忠實依照已提供的資料。
換一個回答方式
同一個問題，換一種回答方式
只求完整的回答
它直接補上作者、年份、出版社與摘要，卻沒有可核對的來源；看似周到，其實把猜測當成事實。
把證據放在前面的回答
目前無法確認這本書存在，因此不能確認作者、出版年份、出版社與主要內容。
可靠的做法是允許 AI 在證據不足時保留答案或清楚說不知道，並請它提出需要哪一份來源、交叉核對哪些資料，而不是硬把空白補滿。
工具能幫忙，也有邊界
既然可以查資料，為什麼幻覺不能永遠消失？
搜尋、RAG、引用與自我檢查都能降低風險，但對任意開放問題與任意資料條件，現有生成式系統無法保證永遠零幻覺。
- 真實資料可能缺漏、過期或互相矛盾，問題本身也可能模糊。
- 搜尋或 RAG 可能找不到、找錯，或拿到低品質來源。
- 即使來源正確，模型仍可能誤讀、漏掉限制，或加入來源沒有支持的內容。
- 一律拒答能少猜一些，卻也會讓本來能根據充分資料回答的問題失去幫助。
重點：幻覺是要持續降低與管理的風險，不是按下一個按鈕就能永久移除的問題。
把這個判斷帶走
回頭再看一次，你會注意到不同的事
說得完整，是生成能力；有沒有證據，才決定能不能相信。
同一種補全，可能出現在很多看似日常的回答裡：
- 沒看過原始訪談，卻替新聞人物補出一句很像他會說的話。
- 沒有公司報表，卻替「本月營收」補出一個看似合理的數字。
先找來源、交叉核對，也允許回答停在「目前不知道」；這比一個完整卻沒有證據的故事更可靠。
技術名詞速查
先看白話解釋，需要時再展開。這些名稱不是正確保證，而是理解系統如何運作的工具。
Hallucination
模型產生與可驗證事實衝突、捏造資訊或來源、引用不支持結論，或不忠於已提供資料的內容。正確但沒有附引用的陳述，不會只因缺少引用就自動算成幻覺。
Next Token Prediction
模型根據前文預測下一個 token 的機率分布，再由解碼方式選出一個 token；這個訓練與生成目標本身不等於查證事實。
參數化知識
模型從訓練資料學到的模式分散在參數中，不像資料庫能逐筆定位、查詢與更新。
事實性／忠實性幻覺
事實性幻覺是回答違反可驗證事實；忠實性幻覺是回答沒有忠實依照已提供的來源。這兩類是常見區分，不代表涵蓋所有錯誤。
RAG
先找外部資料，再讓模型依資料回答。它能降低部分風險，但不能保證正確，因為檢索、來源品質與生成是否忠於來源都可能出錯。
Calibration
檢查模型表達的把握程度是否符合實際答對比例。即使經過校準，信心也只是風險訊號，不等於單一答案一定正確。
Self-Consistency
從多條推理路徑或多次生成中選出較一致的答案，曾在部分推理基準改善表現。從方法機制來看，它比較的是模型輸出，不是外部事實來源；用多次生成的一致程度當額外訊號；大家都答一樣仍可能一起答錯。
RLHF／DPO
兩者都利用人類偏好資料調整模型行為：RLHF 以回饋訓練與最佳化，DPO 直接用偏好配對最佳化。它們調整回答方式與偏好，不代表答案必然正確或錯誤。
常見問題
AI 幻覺是什麼？
模型產生與可驗證事實衝突、捏造資訊或來源、引用不支持結論，或不忠於已提供資料的內容。正確但沒有附引用的陳述，不會只因缺少引用就自動算成幻覺。
為什麼 AI 說得很順還是會錯？
因為模型主要根據前文估計下一個 token 的機率分布，再由解碼方式選出 token；這個生成目標不等於替每句話查證。
搜尋或 RAG 能讓幻覺永遠消失嗎？
不能保證。搜尋或 RAG 能提供外部資料並降低部分風險，但可能找不到、找錯或拿到低品質來源；模型也可能誤讀來源，或加入來源沒有支持的內容。
怎麼判斷 AI 有沒有足夠資料？
先確認答案需要的時間、範圍、文件或私人資料是否已提供，並檢查系統是否獲得明確授權來查詢可信來源；缺一項就應先補資料，不要讓它猜。
三句話記住
- AI 很會生成合理文字，但流暢不等於正確。
- 資訊不足時，先補資料，也允許 AI 清楚說不知道。
- 重要答案要看來源並查證。
原始研究與資料來源
以下連結都是本頁實際使用的原始論文。研究各自驗證特定方法或情境，不應把單篇結果解讀成所有模型都一定如此。
- 原始論文：Sequence Level Training（next-token 訓練與錯誤累積，另開新分頁）
- 原始論文：Retrieval-Augmented Generation（參數化知識與 RAG，另開新分頁）
- 原始論文：摘要生成中的忠實性與事實性（另開新分頁）
- 原始論文：Corrective RAG（檢索資料可能不相關，另開新分頁）
- 原始論文：Astute RAG（不完美檢索與知識衝突，另開新分頁）
- 原始論文：Language Model Calibration（信心與答對比例，另開新分頁）
- 原始論文：Self-Consistency（多條推理路徑的一致性，另開新分頁）
- 原始論文：InstructGPT（RLHF 與人類偏好，另開新分頁）
- 原始論文：Direct Preference Optimization（DPO，另開新分頁）
- 原始論文：Chain-of-Thought Prompting（部分推理任務，另開新分頁）
這份圖解提供一般性的 AI 素養說明；重要決策仍應使用可信資料並由合適的人員確認。