Music x AI Learning
把 AI 概念，變成可以反覆聽的旋律
這裡收錄 AKIRA 的 AI 學習音樂作品。先用耳朵記住節奏，再回頭看模型、矩陣、特徵與架構，抽象概念會比較容易留下來。
Lyrics Sheet
變形矩陣 歌詞
把 Transformer 的結構拆成 rap 段落，副歌聚焦 Self-Attention，Verse 裡塞進 Q/K/V、Masked Attention、Residual connection 與 Layer Normalization。
Yeah, listen up! 踏入這片數據的森林 丟掉以前的 RNN，我們跨越時間的限制 Attention is all you need, let's go!
拋棄了順序，我開平行運算 LSTM 太慢，我直接把它切斷 文字的序列，不用一步一步走 矩陣相乘大爆發，答案全都在我手 先上 Positional Encoding（位置編碼）標記每個位置 就算平行輸入，我也懂誰是誰的配置 Word embedding 進去，化為向量的流 Encoder 抓取語意特徵，沒有任何保留！
Self-Attention！自我注意力！ 誰跟誰最有關聯，我一眼就能看清 Query 出去尋找 Key，Value 才是我的目的 Transformer 的魔法，打破語言的物理 Self-Attention！權重自動分配 Multi-head（多頭機制），把不同細節全描繪 不管是翻譯文章還是語意的理解 這套演算法現在統治 AI 的世界！
Q、K、V，三個維度在交戰 Softmax 函數一開，機率馬上就填滿 Decoder 裡面藏著 Masked Attention 遮蔽未來的字詞，預測才不會變笨 Feed Forward Network，加深網路的厚度 Residual connection（殘差連接），不讓梯度迷失了路 Layer Normalization，確保數據變得平滑 架構完美堆疊，讓算力不斷地昇華！
Self-Attention！自我注意力！ 誰跟誰最有關聯，我一眼就能看清 Query 出去尋找 Key，Value 才是我的目的 Transformer 的魔法，打破語言的物理 Self-Attention！權重自動分配 Multi-head（多頭機制），把不同細節全描繪 不管是翻譯文章還是語意的理解 這套演算法現在統治 AI 的世界！
從 2017 那篇論文，一路殺到 GPT 理解你的上下文，早就沒有秘密 看透字裡行間，參透你的心意 Transformer 的傳奇，我們繼續... Yeah! Drop the mic!
Lyrics Sheet
大數據5V 歌詞
用一首考前深夜歌，把大數據 5V 與 iPAS 閱讀陷阱一起放進記憶點。
【凌晨三點半的筆記】 螢幕亮著，凌晨三點半 第一個V，是體積的負擔 (Volume / 資料量) 數據的海洋，無邊也無端 第二個V，是速度在追趕 (Velocity / 速度) 每秒都在刷新，我的心跳也變慢 參考書很厚，像座圖書館 這些概念，我都能倒背如流 可 iPas 的考題，總在風中顫抖
別再考我，中文的深度 那不是 AI，是文字的陷阱處處 閱讀測驗，比程式碼還難讀 我的專業，在標點符號裡迷路 iPas，你到底想測驗什麼？
第三個V，是多樣的混亂 (Variety / 多樣性) 非結構的夢，在腦袋裡打轉 第四個V，是真實的判斷 (Veracity / 真實性) 數據的真假，誰說了算？ 最後一個V，是價值的彼岸 (Value / 價值) 可我只看到，被扣光的分數 考題的邏輯，像一團霧 我不是在學 AI，我在學猜謎語
那些V，我背得那麼熟 卻輸給了，一個「不」或「否」 中文的博大精深，是我的對手 而不是，演算法的接口
Volume, Velocity, Variety Veracity, Value 五個V，背完了 iPas，下次見 希望那時候，我中文更好一些 (嘆氣) 真是... 夠了。
My Little Anomaly
用一首情歌把決策樹、隨機森林、Extra Trees、GBDT、XGBoost、LightGBM、CatBoost 與 Isolation Forest 串成一條記憶線。
到 YouTube 開啟Lyrics + Tech Notes
My Little Anomaly 歌詞與技術解說
把樹模型與集成學習寫成一段戀愛追蹤：分類、投票、提升、類別特徵與異常偵測一次記住。
Boy, you confuse me with your binary lies (男孩，你用二進位的謊言讓我困惑) But I’m map-making with a Decision Tree, no surprise (但我正用決策樹畫出地圖，沒什麼好驚訝的) 👉 【決策樹 Decision Tree】 就像玩「猜猜看」一樣，一步一步問「是」或「否」來分類，幫我們在混亂的資料中找到方向。
Looking for a split, just trying to find the light (尋找著分支點，只想找到一絲光明) Tracing all the branches, yeah, you keep me up at night (順著樹枝追尋，你讓我徹夜難眠) Then you bring your friends, like a Random Forest dream (然後你帶來了朋友，就像隨機森林的夢境) 👉 【隨機森林 Random Forest】 一棵決策樹容易出錯，那就種一整片森林。讓很多棵樹一起投票，結果通常更穩、更準。
A crowd of models, yeah, it’s harder than it seems (一群模型聚在一起，比想像中還難懂) Extra Trees join in, picking features on a whim (極度隨機樹也加入了，隨心所欲地挑選特徵) It’s a tangled little garden, and I’m drowning in the spin (這是一座交錯的小花園，我在旋轉中沉淪) 👉 【極度隨機樹 Extra Trees】 比隨機森林更隨機。它在切分節點時更隨興，速度快，有時也能降低過度擬合。
Oh, my data’s acting crazy, need a love that’s gonna boost (噢，我的數據快瘋了，需要一份能不斷提升的愛) Gradient leaning, GBDT, yeah, that’s the proof (跟著梯度傾斜，GBDT就是最好的證明) 👉 【梯度提升樹 GBDT】 Boosting 的核心是從錯誤中學習。後面的樹專門修正前面模型犯的錯，一步一步把預測補好。
XGBoost is fast, baby, pushing all the lines (XGBoost 速度超快，寶貝，突破所有極限) LightGBM, you’re glowing in the darkest times (LightGBM，你在最黑暗的時刻閃閃發光) CatBoost catching categories, smooth as it can be (CatBoost 捕捉分類標籤，如此滑順完美) 👉 【XGBoost】 GBDT 的極限強化版，速度快、準確率高，是許多資料科學競賽的常勝工具。 👉 【LightGBM】 微軟開發的輕量級提升模型，特別適合大資料，速度快且省記憶體。 👉 【CatBoost】 擅長處理類別型資料，例如城市、顏色、類別標籤，減少人工轉換特徵的麻煩。
Isolation Forest, baby, you’re the one for me (孤立森林，寶貝，你就是我的唯一) Found the outlier, yeah, you stand out in the dark (找到了那個異常值，你在黑暗中如此耀眼) My little anomaly, yeah, you left your mark (我的專屬異常值，你留下了深刻的印記) 👉 【孤立森林 Isolation Forest】 前面的樹多半在做預測，孤立森林則專門抓異常值。它會找出那些跟大多數資料不一樣、很快就能被分離出來的點。
See, boosting’s like a conversation, learning from the past (你看，提升技術就像一場對話，從過去中學習) Correcting all the errors, making every moment last (修正所有的錯誤，讓每一刻都成為永恆) XGBoost’s the rhythm, LightGBM is the beat (XGBoost 是旋律，LightGBM 是節拍) CatBoost categorical, keeping all the logic sweet (CatBoost 處理分類，讓所有邏輯保持甜美)
But when the world gets crowded and I’m feeling all alone (但當世界變得擁擠，我卻感到孤單時) I need that Isolation Forest, call me on the phone (我需要孤立森林，打通電話給我吧) Separating secrets from the noise inside the track (把秘密從音軌的雜音中分離出來) I finally found the truth, yeah, and there’s no turning back (我終於找到了真相，再也無法回頭)
You thought you were a mystery, hard to classify (你以為自己是個難以分類的謎團) But I’ve got all the algorithms, watching you pass by (但我擁有所有的演算法，注視著你走過) From the root to the leaf, to the boosting in the core (從樹根到樹葉，再到核心的提升技術) I’m predicting every heartbeat, baby, give me more (我正在預測你的每一次心跳，寶貝，給我更多) No more anomalies, just you and me tonight (今晚不再有異常，只有你和我) In this ensemble love, baby, everything is right (在這份「集成」的愛裡，一切都如此完美)
Yeah, everything’s right (耶，一切都如此完美) Isolation Forest, caught the one I need (孤立森林，抓住了我需要的那個人) Decision, Random, Extra, Boosting speed (決策、隨機、極度、不斷提升的速度) Yeah, it’s all in the math, baby (耶，這全都是數學的浪漫，寶貝) My perfect, perfect, perfect fit (我最完美的契合) (深情的靈魂轉音) Yeah... just you and me. (耶... 只有你和我。)
一首歌唱完 XGBoost
用一段副歌記住 XGBoost 的精神：一棵樹接著一棵樹，後面那棵專修前面的殘差，learning rate 一小步，弱學習器也能疊成競賽常勝軍。
到 YouTube 開啟Lyrics Sheet
一首歌唱完 XGBoost 歌詞
把 boosting、殘差（residual）、gradient、learning rate、正則化與缺失值處理全寫進歌裡——聽懂 XGBoost 為何是表格資料競賽的常勝軍。
一棵決策樹 心思太單純 問得太少 學不深 問得太多 記成真 資料換一批 它就亂了分寸 overfitting 背了答案 卻說不出原因
一個人 撐不起整片天 把每個錯 留給下一棵 慢慢補完
XGBoost 一棵接著一棵長 後面那棵 專門修 前面的傷 boosting 把殘差 residual 一點點扛 人多力量大 弱弱也能變強 learning rate 一小步 別太莽 誤差越縮越小 預測越來越像樣
它學的不是答案 是我還差多少 順著 gradient 下山 找最快的路標 殘差就是方向 一棵樹補一刀 全部加起來 additive 分數往上飆
別貪快 步子放小 穩穩走 才不會 全盤跌倒
XGBoost 一棵接著一棵長 後面那棵 專門修 前面的傷 boosting 把殘差 residual 一點點扛 人多力量大 弱弱也能變強 learning rate 一小步 別太莽 誤差越縮越小 預測越來越像樣
為什麼叫 eXtreme 因為它跑得快 regularization 把太複雜的 剪裁 缺失值不慌張 它自己選路徑 表格資料稱王 比賽榜上常勝軍
從一棵弱弱的樹 到一整片森林的光 一棵接著一棵 這就是 boosting 的力量
一棵接著一棵 慢慢長
Lyrics Sheet
一首歌搞懂 SVD、Eigen、PCA 歌詞
把線性代數三個常混淆的概念拆開：Eigen 看方陣的不變方向，SVD 拆任何矩陣，PCA 用主成分留下資料裡最重要的變化。
Yeah, 線性代數的浪漫 矩陣裡面 藏著答案
特徵分解 eigen 的祕密 只對方陣 square matrix 有意義 A 等於 Q Λ Q 的逆 找出那些 不轉向的軌跡 特徵向量 方向不變 特徵值 告訴你 拉多遠 對稱矩陣 它們還垂直 這是分解 最原始的樣子
可是方陣 太挑剔 長方形的矩陣 怎麼辦呢 baby
SVD 是萬能的鑰匙 U Σ V 轉置 拆給你 任何矩陣 它都不挑剔 奇異值 排出 誰是重要的戲 PCA 幫你 降維減負擔 留下主成分 抓住變化的方向感 eigen, SVD, PCA 三個一家 別再搞混它
SVD 不挑形狀 m 乘 n 都行 它是特徵分解 的延伸 generalize U 跟 V 是正交 orthogonal 的基 Σ 對角線 奇異值 由大到小排齊 想壓縮 想推薦 想找潛在語意 留前 k 個 就抓住 大部分能量 yeah
那 PCA 又是誰 它不是分解 是一種應用的智慧
先把資料 置中 減掉平均 算共變異 covariance 矩陣 對它做特徵分解 主成分就浮現 或者對置中資料 直接做 SVD 殊途同歸 結果都一致 變異最大的方向 就是主軸 記住了
特徵分解 是地基 square 限定 SVD 把它 推廣到 無極限 PCA 站在 它們的肩膀上面 降維壓縮 抓住重點 別猶豫 eigen, SVD, PCA 一脈相傳 現在你懂了它
Eigen, singular, principal 數學的浪漫 一首歌記得它