温度(Temperature)
一句話解釋
控制大模型回答隨機程度的參數,數值越低迴答越穩定,越高越多變。
温度低時,模型傾向於選擇最可能的詞,同樣的問題每次答得差不多,適合客服、數據整理、合同審核這類要求準確的任務。
温度高時,模型更願意選擇不常見的表達,適合想標題、出創意。但温度高也更容易跑題和出錯。
舉個例子
寫 20 個不同的活動標題,可以把温度調高;從發票裏提取金額,應把温度調低。
相關術語
- 大語言模型(LLM)Large Language Model
- 用海量文字訓練出來、能理解和生成文字的 AI 模型,豆包、DeepSeek、ChatGPT、Claude 背後都是大語言模型。
- 幻覺Hallucination
- AI 一本正經地給出不存在或錯誤的資訊,例如編造數據、出處、法條或產品功能。
- 提示詞(Prompt)Prompt
- 交給 AI 的指令和材料,包括要它做什麼、給它什麼資料、按什麼格式交付。