生成式 AI · 取樣參數

溫度實戰:同一提示、不同輸出

把溫度旋鈕從低轉到高,看同一句提問怎麼從「保守一致的標準回報」變成「天馬行空的星艦驚魂」。

多欄位一次生成隨機取樣低溫穩定高溫發散seed 可重現

💡一句話定義

同一個提示,在不同溫度下輸出會從「保守一致」一路變成「發散多樣」。低溫時模型幾乎總選最高機率字(穩定);升溫後較低機率的字也可能被選中,輸出更豐富,但風險也更高。這頁讓你親手轉旋鈕,把抽象的「溫度」變成看得見的字。

🎮互動:星艦控制台

一句回報有三個變動欄位(設備 / 事件 / 處置),每個都獨立取樣。轉高溫、按「重新生成對話」,看整句怎麼一起失控。下方圖表只畫中央「事件」欄位的機率分布。

⚙️ 參數實驗室:星艦控制台

調整核心參數,觀察 AI 助理如何生成截然不同的局勢回報。

越高越瘋狂 (拉平機率),越低越死板 (凸顯最高機率)。
無情斬斷排名 K 之後的選項。
保留累積機率達到 P 的選項,尾巴太長的怪詞會被剔除。
降低「科幻老梗」(如護盾、受損) 的分數,逼 AI 發揮創意。
只要出現過就扣分,讓 AI 轉移話題(例如突然聊起貓咪)。
👤 艦長
AI,立刻回報目前太空船的狀態與處置建議。
🤖 艦橋 AI 系統
報告艦長!我們的 ... 突然 ... ,系統建議立刻 ... !!

📊 AI 腦內的「突發事件」機率分佈 (Slot 2)

※ 參數會同時影響整句話的三個變動欄位,此圖表僅展示中央「事件」欄位的 Softmax 分佈變化。

🔁為什麼同一提示每次結果不同?

因為溫度 > 0 時是隨機取樣:每次都照機率「擲骰子」選字,自然會不同。想要可重現(每次一模一樣),把溫度設為 0(等同永遠選最高機率字),或固定隨機種子 seed。這也是為什麼事實類、要交付的輸出常設低溫或 0。

🌡️溫度光譜對照表

溫度區間行為適合
0 ~ 0.3(低)幾乎總選最高機率字,穩定、可重現事實問答、程式、資料抽取、客服
0.7 ~ 1.0(中)有變化又不失控,兼顧品質與多樣寫作、聊天、一般創作
> 1.5(高)低機率怪詞也頻繁出現,容易離題腦力激盪、找靈感(需人工挑選)

🎚️三個旋鈕一起作用

🌡️Temperature
調整整體分布形狀,控制隨機性強弱。
🔢Top-K
只從機率前 K 名取,砍掉尾巴怪詞。
🎯Top-P
從累積機率達 P 的最小候選集取(核取樣)。

此外還有重複懲罰(frequency / presence penalty)壓低已出現詞。實務常「組合使用」以兼顧多樣與品質。

🧮複利效應:長輸出更要控溫

一句回報有好幾個位置都在各自取樣。高溫時,每個位置「選到離譜字」的機率都升高,整句一起走鐘的機率是相乘放大的。所以生成長文本時,溫度稍微偏高就可能整段崩壞——長輸出、要交付的內容,寧可把溫度壓低一點。

🧭實務設定建議

創意(寫詩、命名、發想)→ 溫度約 0.8~1.0 求變化;事實、程式、抽取 → 0~0.3 求正確可重現。要 100% 可重現:溫度設 0、或固定 seed。記住溫度只是「取樣策略」,不會改變模型學到的知識

自我檢測

Q1. 為什麼同一提示每次輸出不同?
因為溫度 > 0 是隨機取樣。想可重現,把溫度設 0 或固定隨機種子 seed,輸出就會一致。
Q2. 溫度怎麼影響選字?
低溫幾乎總選最高機率字(穩定);升溫後較低機率的字也可能被選,輸出更豐富但風險變高。
Q3. 創意任務和事實任務怎麼調?
創意調高溫(約 0.8~1.0)求變化;事實、程式、抽取調低溫(約 0~0.3)求正確可重現。
Q4. 溫度是唯一控制多樣性的旋鈕嗎?
不是。還有 Top-K、Top-P(核取樣)、重複懲罰等,通常組合使用以兼顧多樣與品質。

🎯重點整理

📝 iPAS 考點提醒

取樣參數(溫度、top-k、top-p)共同決定 LLM 生成的多樣性,iPAS 生成式 AI 考點(初級科目二)。重點:溫度調分布尖銳度、top-k 只從機率前 k 個取、top-p(核取樣)從累積機率達 p 的詞中取,搭配控制創意與穩定。易混點:這些都不改模型,只影響怎麼從機率分布抽詞;低溫或低 p 較保守、高溫或高 p 較發散。情境:依任務(事實或創意)調這組參數。

想練情境題與詳解 → AI 學習與考證地圖

❓ 常見問題

為什麼要實際調溫度看看?

溫度對輸出影響直觀但抽象;互動調整能親眼看到同一提示在不同溫度下,輸出從保守一致變成發散多樣。

溫度怎麼影響字詞選擇?

低溫幾乎總選最高機率字(穩定);升溫後較低機率的字也可能被選,輸出更豐富但風險變高。

創意任務和事實任務該怎麼調?

創意(寫詩、命名、發想)調高溫(如 0.8 到 1.0)求變化;事實、程式、抽取調低溫(如 0 到 0.3)求正確可重現。

溫度是唯一控制多樣性的旋鈕嗎?

不是;還有 top-k、top-p(nucleus)、重複懲罰等,通常組合使用以兼顧多樣與品質。

為什麼同一提示每次結果不同?

因為有隨機取樣(溫度大於 0);想可重現可把溫度設為 0、或固定隨機種子(seed),輸出就會一致。

🧭 相關主題

← 返回 AI 學習與考證地圖