RAG(檢索增強生成)
一句話解釋
AI 回答前先從知識庫裏檢索出相關資料,再根據這些資料生成回答的方法。
RAG 解決兩個問題:模型不知道企業內部資料;資料太多,不能全部放進上下文。檢索出最相關的幾段交給模型,既準確又省 Token。
RAG 的效果取決於檢索準不準:資料怎麼切塊、用什麼方式檢索、取幾段,都會影響結果。
舉個例子
官網銷售顧問收到「你們能做海外 GEO 嗎」,先從官網資料裏檢索出海外版的介紹,再據此回答。
相關術語
- 知識庫Knowledge Base
- 存放企業資料和經驗、供 AI 檢索和引用的資料庫,讓 AI 按企業自己的事實回答問題、寫內容。
- 向量(Embedding)Embedding
- 把一段文字或一張圖片轉換成一串數字,意思相近的內容,數字也相近,用來按意思找資料。
- 向量數據庫Vector Database
- 存儲向量、並能快速找出意思最接近內容的數據庫,是 RAG 和知識庫檢索的常用組件。
- 文本切塊(Chunking)Chunking
- 把長文檔切成大小合適的小段,再存進知識庫,方便檢索時只取出相關的部分。