為什麼現在的大模型，都是 decoder-only 架構？

PART 01

當年的三國混戰，長這樣

01 選手是——

第一位:encoder-only(代表選手 BERT),
它超會「讀」——把整句話前後文一起看,理解力一流,但它天生不會「寫」,只能做填空、分類,你要它一句一句生成文章,它就傻在原地。

02 選手是——

第二位:encoder-decoder(代表選手 T5、原始 Transformer),
它一半負責讀、一半負責寫,設計得工整又對稱,翻譯這種「輸入一段、輸出一段」的任務超在行,但兩套零件養在一起,又肥又複雜、又難餵。

03 選手是——

第三位:decoder-only(代表選手 GPT 家族),
它從頭到尾只會一招——「看著前面,猜下一個字」,簡單到有點樸素,一開始沒人看好,覺得這麼陽春的東西,能成什麼大器?

04 選手是——

結果幾年打下來,那個又肥又對稱的、那個只會讀的,
全被邊緣化了,今天你叫得出名字的大模型,幾乎清一色都是那個「只會接下一個字」的陽春選手的後代和子孫。

PART 02

那它憑什麼贏?

01 原因是——

它把「所有任務」都化簡成同一件事——預測下一個字,
翻譯、問答、寫詩、寫程式、摘要,通通變成「接下去該講什麼」的同一道題,一個架構、一種訓練,就能通吃全部。
統一,是它最大的武器,
別人要為不同任務設計不同零件,它只要把整個網路餵進海量文字、一路練「接字」,什麼都自然地學會了。

02 原因是——

它的訓練「訊號超密集」——每一個字的位置,都在做預測、都在學習,
一句話有幾百個字,它就同時在幾百個地方練功,每一秒的算力都沒浪費,學習效率高得驚人、榨得乾乾淨淨。
沒有一個零件在閒著,
整個網路從頭到尾都在同一件事上使力——這種簡單而純粹的密集訓練,正是它能又快又猛地變強的底氣。

03 原因是——

它「超好放大」——架構夠簡單、夠乾淨,你就能拚命堆參數、堆資料、堆算力,
而它幾乎是「越大越聰明、加多少料就強多少」,這種漂亮的規模效應,正好搭上了整個產業「大力出奇蹟」的浪頭。
複雜的架構堆到後來會卡,
簡單的它卻一路暢通無阻——當所有人都在比誰堆得更大時,好放大這件事,就成了決定生死的關鍵優勢。

04 原因是——

最神奇的是——練到夠大,它「憑空長出」了一個沒人教的本事:看幾個範例,當場就會做新任務,
你不用重新訓練它,只要在提示裡給它幾個例子,它就能舉一反三——這種「臨場學習」的能力,是它練「接字」練到夠大,自己湧現出來的。
這一招徹底改變了遊戲規則,
別的架構要為每個任務重新調教,它卻能「一個模型、無限任務」——這份通用的彈性,才是它真正封王、一統江湖的殺手鐧。

PART 03

那另外兩種，就徹底沒用了嗎?

01 答案是——

你可能以為既然 decoder-only 贏了,
那另外兩種架構就該直接刪掉、丟進博物館,從此江湖上再也不會有人提起它們的名字了吧?

02 答案是——

其實沒有——它們在各自的角落,還活得好好的,
那個超會「讀」的 encoder,今天還在幫你做搜尋、做分類、做語意比對——不用生成、只要理解的場合,它又快又省、依然稱職。
贏的是「通用大模型」這條路,
不代表別條路就死了——工具沒有絕對的好壞,只有「適不適合那個任務」,對的地方,舊架構照樣是最佳解。

03 答案是——

而且這件事最值得玩味的一課是——「簡單、可規模化」打敗了「精巧、全能」,
這不只是一個架構的勝利,更是整個 AI 這十年最重要的一條心法:與其設計得聰明,不如設計得「能被無限放大」。
賭對了規模,
就賭對了未來——decoder-only 的故事,其實是「大力出奇蹟」這個時代精神,最漂亮的一個註腳和縮影。

04 答案是——

所以下次有人問你「為什麼現在都是 decoder-only」,你可以笑著說,
不是因為它最聰明、最複雜、功能最多——恰恰相反,是因為它最簡單、最純粹、最好放大,才在這場規模的競賽裡笑到了最後。
它把一件事做到極致,
「猜下一個字」——就這一招,練到夠大,竟然就通往了會寫、會答、會推理、會臨場學習的一切——這就是它一統天下的祕密。