微調(Fine-tuning)
一句話解釋
在已經訓練好的大模型上,用企業自己的一批樣本再訓練一次,讓它更習慣某種任務或寫法。
微調適合固定格式、固定風格、大量重複的任務,例如按統一格式抽取單據資訊。它需要準備成百上千條高質量樣本,還要技術人員維護。
如果目的是讓 AI 知道企業的最新資料,用知識庫更合適:資料改了直接更新知識庫就行,不用重新訓練。
舉個例子
一家企業用 2000 條整理好的客服問答微調模型,讓它回答時的格式和語氣和真人客服一致。
相關術語
- 預訓練Pre-training
- 大模型用海量公開文字學習語言和常識的階段,決定了模型的基礎能力和知識截止時間。
- 知識庫Knowledge Base
- 存放企業資料和經驗、供 AI 檢索和引用的資料庫,讓 AI 按企業自己的事實回答問題、寫內容。
- RAG(檢索增強生成)Retrieval-Augmented Generation
- AI 回答前先從知識庫裏檢索出相關資料,再根據這些資料生成回答的方法。