以真實數學運算展示 Transformer 如何逐步處理您的提示詞
Transformer 的注意力視覺化揭露詞間關係,iPAS 中級科目一考點。重點:注意力熱圖顯示每個詞預測時關注了哪些詞(如代名詞關注其指涉的名詞),多頭各看不同面向。易混點:高注意力提供線索但不等於因果重要性(研究指出注意力未必可靠反映推理);它是打開黑盒的工具、非絕對解釋。情境:理解、除錯與教學示範 Transformer。
想練情境題與詳解 → AI 學習與考證地圖
主要看注意力權重——每個詞在預測時關注了哪些詞；能揭露模型抓到的語法與語意關係。
矩陣每格代表一個詞對另一詞的關注強度；亮代表關注高，例如代名詞常關注它指涉的名詞。
不同頭學到不同模式：有的看鄰近詞、有的看句法依存、有的追指代；多頭合起來涵蓋多種關係。
能提供線索但要謹慎；高注意力不必然等於因果重要性，研究指出注意力權重未必可靠反映模型推理。
幫助理解模型行為、除錯、發現偏誤、教學示範；是打開 Transformer 黑盒的常用工具。