推理模型
一句話解釋
回答前會先在內部一步步分析問題再給出結論的大模型,適合計算、規劃、複雜判斷。
推理模型會花更多時間和 Token 在「想」上,所以速度更慢、費用更高,但在多步驟計算、寫代碼、做方案比較這類任務上更不容易出錯。
簡單任務(改寫、翻譯、總結)用普通模型就夠了;需要多步判斷的任務再用推理模型。
舉個例子
讓 AI 比較三家供應商的報價、交期和付款條件,給出採購建議,適合用推理模型。
相關術語
- 大語言模型(LLM)Large Language Model
- 用海量文字訓練出來、能理解和生成文字的 AI 模型,豆包、DeepSeek、ChatGPT、Claude 背後都是大語言模型。
- Agent(智能體)AI Agent
- 能自己讀文件、調用工具、分步驟把一件事做完的 AI,區別於只回復一段文字的聊天 AI。
- TokenToken
- 大模型處理文字的基本單位,模型的上下文長度和調用費用都按 Token 計算。