為什麼「微調」有時候反而讓模型變笨？

PART 01

這種變笨，長這樣

01變笨是——

你拿一堆公司客服對話去微調它,想讓它更會回客服,
結果它客服是變強了,但你再問它一題數學、一段翻譯,它卻突然變得笨手笨腳——會了新的,舊的本事卻退步了一大截。

02變笨是——

你只餵它某個窄領域的資料,想把它調成專家,
它是變專了,卻也變得又死板又偏執——一離開那個小圈子,它就像換了個人,原本的靈活和廣博,都不見了。

03變笨是——

你餵的資料只有幾百筆、又不夠多元,
它學得太用力、太死記,結果不是「學會」,是「背起來」——你一問它訓練資料以外的東西,它就當場露餡、答得零零落落。

04變笨是——

你興沖沖調了個「專屬模型」,一比之下,
竟然比原本沒調的通用模型還難用,花了時間、燒了錢、還把它調笨了——這是很多人第一次微調,最容易踩、也最心痛的一個坑。

PART 02

為什麼越教越笨?

01原因是——

它的「知識」不是存在一格一格的抽屜裡,而是攤在幾十億個互相牽連的參數上——牽一髮,動全身,
你為了教它新東西而去調整這些參數,那些「剛好也負責記舊知識」的參數,就被你一起改掉、覆蓋掉了。
它沒有「只改這裡、別動那裡」的能力,
學新的和忘舊的,用的是同一批旋鈕——你轉動它去記住新招時,某些舊記憶,就在你沒注意的地方,悄悄地被抹掉了。

02原因是——

這就是「災難性遺忘」——它太專心學你給的新東西,反而把原本的廣博給犧牲了,
就像一個博學的人,被逼著沒日沒夜只背一本客服手冊,背到滾瓜爛熟,卻把原本會的數學、歷史、外語,全都荒廢、生疏、忘掉了。
學得越專、越用力,
忘得越徹底——這不是它不用心,是它的腦子容量和注意力,在你狹隘地猛灌一種資料時,自然地擠掉了、蓋掉了那些原本珍貴的老本事。

03原因是——

更常見的坑是——你給的資料「太少、太單一、又教得太用力」,
它就不是在「理解」,而是在「死背」——把你那幾百筆資料的字句和格式硬記下來,你一問超出範圍的,它腦中空空、只好胡亂拼湊(這就是過擬合)。
資料的品質和多元,
比數量更關鍵——餵它一小攤又髒又偏的資料、還逼它學到底,結果往往不是調出一個專家,是調出一個又偏執、又健忘的怪胎。

04原因是——

說到底,微調是一把又利又危險的雙面刃——它在「學新」和「保舊」之間,是一場拔河,
拉得太猛,新的還沒學紮實,舊的先垮了;拉得太輕,又根本沒學到東西——這個平衡,微妙到讓「微調」這件事,從來就不是「餵資料進去」這麼簡單。
它不是一顆「灌越多越強」的海綿,
而是一個「動哪裡都會牽連別處」的精密系統——不懂這個,你以為在幫它加料,其實常常是在,親手把它一身的本事給搞砸了。

PART 03

那想讓它更專業，到底該怎麼做?

01解法是——

你可能開始猶豫,那到底還要不要微調、是不是乾脆別碰,
還是硬著頭皮調下去、賭它這次不會把自己調笨、調偏、調成一個健忘的怪胎?

02解法是——

先問自己一句——你要的是「讓它知道更多」,還是「讓它做事的樣子變了」?
如果只是要它「知道你的最新資料、你的內部知識」,那多半根本不用微調——用我們前面講過的 RAG(現查現答),把資料現餵給它,又快又安全、又不會傷到它原本的腦。
微調是動它的「腦」,
RAG 是給它「資料」——很多人以為要微調,其實只是想讓它「查得到」你的東西,那用 RAG 就好,別去動那個一動就會壞的精密系統。

03解法是——

真的需要微調(例如要它固定某種口氣、某種格式),也有溫柔的做法——「只輕輕動一小部分,別大改整顆腦」,
現在有很多聰明的技術,只在模型旁邊掛一個小小的「外掛」去學新東西,幾乎不動原本的參數——既學到了新招,又保住了老本事,兩全其美。
還可以「新舊資料混著餵」,
教它新東西的同時,也拌一點通用資料進去,提醒它「別忘了本」——這些做法,都是在那場「學新 vs 保舊」的拔河裡,幫它站穩、不摔跤。

04解法是——

所以最該記住的心法是——「別把微調當成第一招,它常常是最後、也最難的一招」,
先試提示詞、先試 RAG,這些又便宜又不傷腦的方法,能解決你八九成的需求;真的都不行,再謹慎地、小心地,動用微調這把危險的刀。
它不是「加料就變強」的海綿,
是「動哪都會牽連」的精密系統——懂了這個,你就不會再興沖沖地餵一堆資料,結果親手把一個好模型,調成了一個又偏又笨的樣子。