祕密不是模型多神,是他們在「撈資料」這關下了狠功夫。
先講在前面:RAG 就是「先去資料庫撈相關段落、再讓 AI 照著答」。而「回召率」,講的是——該撈出來的正確段落,到底有沒有被撈到。撈漏了,後面 AI 再強也是巧婦難為無米之炊。
那些能做到近乎 100% 的人,到底施了什麼魔法?我唸四個給你聽。
你問「退貨要幾天」,答案明明白白寫在手冊裡,
它卻撈了一堆不相干的段落回來,偏偏漏掉那一段最關鍵的——不是資料不在,是它「撈」的時候,剛好跟那段擦身而過。
你用「筆電」去問,文件裡寫的卻是「NB、notebook」,
意思一樣、字面不同,純靠語意去比對的它,偏偏在這個同義詞的坎上卡住、認不出來、就這樣把對的段落給錯過。
答案剛好被切在兩段的交界處,前半在這塊、後半在那塊,
你的切法一刀劈中要害,結果哪一塊單獨撈出來都不完整——不是沒撈到,是你「切文件」的時候,把一句完整的答案給攔腰斬斷了。
你只撈「最像的前三名」就交差,
偏偏正解排在第七名,它明明就在候選名單裡、只差臨門一腳,卻因為你撈得太少、太急,硬生生被你關在門外沒讓它進場。
看到這裡你可能會問:那些高手到底怎麼把這些坑一個一個填平、逼近 100% 的?
關鍵就在——他們不是換了更神的模型,是在「撈」的每一個環節,都動了很扎實的手腳。
來看原理,這段是乾貨。
「混合搜尋」(hybrid search)——語意 + 關鍵字,兩張網一起撒,
純語意會漏掉同義詞和專有名詞,純關鍵字又抓不到意思相近的——高手兩種一起用,一張網漏的,另一張網補。
「筆電」比對不到「NB」?
關鍵字那張網剛好接住;意思相近字面不同的?語意那張網剛好撈起——兩張網疊起來,漏洞就少了一大半。
「把問題改寫、擴寫」(query rewriting)——一個問題,變成好幾種問法去撈,
你問「退貨」,它自動幫你也去搜「退款、七天鑑賞期、rma」,一個角度撈不到的,換三五個角度再撈一遍,總有一個對上。
甚至先讓 AI「假想一個答案」再拿去搜,
用答案去找答案,比用問題去找答案更準——這一改一擴,等於替那段藏起來的正解,多開了好幾道門讓它跑不掉。
「切得聰明」(chunking)——重疊切、順著語意切,別攔腰斬斷一句話,
段落之間留一點重疊,讓答案就算被切開,也總有一塊是完整的;順著章節、語意去切,而不是硬按字數一刀切下去。
切法對了,
那段完整的答案就不會被你自己親手斬成兩半、害兩邊都撈不全——很多人的回召率,光把切法修好就能跳一大截。
「先大撈、再精挑」(over-retrieve + rerank)——寧可多撈,再用更強的模型二次篩,
第一關故意撈個五十、一百段,把正解幾乎必定包進來(這就把回召拉高了);第二關再用一個更精準的 rerank 模型,把真正相關的排到最前面。
先求「不漏」,再求「精準」,
用「寧可錯撈、不可放過」的大網先兜底,再靠精挑收尾——這一粗一細的兩段式,正是逼近 100% 回召最關鍵的心法。
好,原理你懂了:混合搜尋、改寫問題、切得聰明、先大撈再精挑——四招疊起來,回召自然逼近滿分。
那很多人會問——「那我把回召率衝到 100%,是不是就天下無敵、萬事大吉了?」
嗯……別高興太早,往下看。
你可能覺得,回召率越高越好,衝到 100% 準沒錯,
反正把該撈的都撈進來,答案一定就在裡面,還有什麼好擔心、還有什麼代價要付的呢?
回召和「精準」,其實是一個蹺蹺板——你撈得越多、越不漏,撈進來的雜訊垃圾也越多,
一百段裡混著九十段不相干的,AI 反而被淹沒、被干擾,抓不到重點——回召 100%,但答案品質可能不升反降。
光看回召那個數字很爽,
但真正要顧的,是「撈得全」和「撈得乾淨」之間的平衡——這也是為什麼「rerank 精挑」那一步,絕對不能省。
而且「近乎 100%」這個數字,往往是在一個乾淨、範圍明確的資料集上測出來的,
換到真實世界那種又髒又雜、格式亂七八糟、還一直更新的資料上,能不能守住,是另一個更難、更現實的考驗。
漂亮的數字要看它怎麼測的,
別被一個「100%」的行銷話術給唬了——問清楚「在什麼資料、什麼題目上測的」,那個數字才有意義、才站得住腳。
所以真正的高手,追的從來不是「回召 100%」這一個孤零零的數字,
而是「撈得夠全、又夠乾淨,最後 AI 答得準」的那個整體——回召只是第一關,後面還有排序、精煉、生成,環環相扣一起顧。
把整條鏈路都調好,
回召自然水到渠成地高——與其迷信那個漂亮的百分比,不如老老實實把每一關的功夫都做扎實,這才是逼近滿分的真本事。
所以下次聽到有人炫耀「我的 RAG 回召率近乎 100%」,你可以會心一笑,再多問一句。
那不是他的模型比你神,是他在「撈資料」這關——混合搜尋、改寫、切法、大撈精挑——每一步都下足了別人偷懶跳過的笨功夫。
真正該記住的,其實只有一件事——
RAG 答不準,八成不是模型笨,是「撈」的那關漏了東西;
混合搜尋、改寫問題、切得聰明、先大撈再精挑——回召才逼近滿分;
但別只迷信回召率——撈得全,還要撈得乾淨,AI 才答得準。