GEO 指南

`llms.txt`要不要做?判斷與驗收指南

王朋友 · 星盒AI 創始人發佈於 16 分鐘讀完
`llms.txt`要不要做?判斷與驗收指南

先説結論

`llms.txt`不是AI搜尋收錄網站的必要條件,也不是Google搜尋中的生成式AI功能要求網站必須部署的文件。普通企業網站應該先解決內容質量、頁面能否被正常讀取、站內連結是否清楚、重要資訊是否以文字形式呈現等基礎問題。

如果你正在做GEO,即生成式引擎優化,可能已經聽過一種説法:網站必須部署llms.txt,否則生成式AI(人工智能)就無法發現、理解或引用網站內容。這裏的GEO,通常指圍繞生成式AI可見度開展的內容和網站優化。

對於文檔站、應用程序接口(API)説明站,或者已經確認有工具會讀取該文件的網站,llms.txt可以作為一項成本較低的兼容工作。至於要不要做,不應只看同行有沒有,而要回答四個問題:誰會讀、讀到什麼、誰來維護、如何驗證。

llms.txt到底是什麼

llms.txt是2024年提出的一項開放提案。它建議網站在根目錄,也就是網站最外層的公開位置,放置一個可以直接訪問的文本文件,例如:

https://www.example.com/llms.txt

這個文件採用Markdown格式。Markdown是一種結構簡單的純文本格式,可以用標題、列表和連結組織內容,方便人閲讀,也方便程序解析。

一份llms.txt通常包含兩類資訊:

  • 網站或項目的簡要介紹;
  • 經過篩選的重要頁面連結及其説明。

這項提案最初希望解決的問題,是讓大模型處理用戶問題時,能夠更快找到網站中的核心資料。對於頁面數量較多的文檔站、API説明站和開發者網站,它相當於提供了一份經過整理的重點資料清單。

但理解llms.txt,必須先明確三個邊界:

  • 它是一項提案:目前不是網站必須遵守的互聯網強制標準。
  • 它只提供摘要和入口:它不負責控制抓取權限,也不能代替網站正文。
  • 它需要工具主動讀取:只有明確支持並讀取該文件的工具,才可能使用其中的資訊。

因此,把文件放到網站根目錄,只能證明文件已經公開,不能證明所有AI產品都會自動讀取,更不能證明網站一定會被收錄或引用。

llms.txt要不要做?判斷與驗收指南

為什麼它經常被説成GEO必做項

一個重要原因是:llms.txt容易部署,也容易展示。

企業通常很難直接看到AI系統訪問了哪些頁面、讀取了哪些內容。相比長期修改網站正文、頁面結構和站內連結,在根目錄增加一個文件,交付動作更明確,也更容易驗收。

但容易驗收,不代表效果已經得到驗證。

Google Search Central,也就是Google搜尋官方文檔,已經明確説明:網站要出現在Google搜尋及其生成式AI功能中,不需要創建新的機器可讀文件、AI文本文件或特殊Markdown文件。Google Search不使用llms.txt,創建這個文件既不會提高,也不會降低網站在Google搜尋中的可見度和排名。

評估llms.txt時,需要把下面三件事分開:

  1. 文件能不能公開訪問;
  2. 某個工具會不會主動讀取;
  3. 讀取以後,會不會影響回答或引用。

文件能夠正常打開,只能證明部署完成。某個工具支持讀取,也不能推導出其他主流AI搜尋產品都會採用。即使讀取成功,也不代表最終回答一定會引用其中的資訊。

這裏還要分清幾個容易混淆的概念:

  • 抓取:系統訪問並讀取網頁內容;
  • 收錄:搜尋系統把頁面納入可檢索的範圍;
  • 引用:AI在回答中使用、提及或連結相關資訊;
  • 讀取llms.txt:某個工具成功取得並解析這個文件。

這幾個環節互有關聯,但不能相互等同。

llms.txt要不要做?判斷與驗收指南

它不能替代robots.txt和sitemap.xml

網站常見的三個文件,分別處理不同問題:

文件 主要作用 能否被llms.txt替代
robots.txt 向遵守規則的抓取程序表達允許或拒絕抓取的偏好 不能
sitemap.xml 作為站點地圖,向搜尋系統提供希望被發現的重要網頁地址 不能
llms.txt 按照提案,向可能讀取它的工具提供站點摘要和重點資料入口 不適用,也不保證被讀取

robots.txt是抓取偏好文件,用來説明網站希望哪些抓取程序訪問或不訪問哪些內容。它表達的是偏好,並不負責整理網站重點資料。

sitemap.xml是站點地圖文件,用來幫助搜尋系統發現網站希望被找到的重要頁面。

llms.txt則是額外整理的一份網站摘要和重點連結清單,供可能讀取它的工具使用。

即使網站部署了llms.txt,原有的robots.txt和sitemap.xml仍要按照各自的用途配置和維護。

先回答四個問題,再決定是否排期

在投入時間之前,先回答下面四個問題:

  1. 是否有明確的系統或工具會讀取它?
  2. 是否有大量文檔、API説明或知識庫頁面需要整理?
  3. 核心頁面是否已經可以穩定訪問和閲讀,而且事實一致?
  4. 頁面變化以後,是否有人負責同步維護?

判斷方法可以簡化為三種情況。

第一種:前兩題至少有一題回答“是”,後兩題也都是“是”。

這説明網站存在資料整理需求,或者已經有明確的讀取方,同時頁面和維護機制也已準備好。此時可以把llms.txt列入低優先級技術任務。

第二種:前兩題都是“否”。

這説明網站既沒有明確的讀取方,也沒有大量資料需要集中整理。當前部署價值有限,不必因為同行已經部署就立即跟進。

第三種:後兩題有一題回答“否”。

這説明網站現有頁面或維護機制還沒有準備好。此時應該先處理頁面正文、抓取、收錄、站內連結和事實依據。否則,文件上線後只會增加一個需要維護的資訊入口。

哪些網站更適合做

1. 文檔站和API説明站

這類網站通常頁面多、版本多,資料分佈在不同目錄。整理一份當前有效的核心文檔清單,可以減少查找成本,也方便團隊檢查重要資料是否完整。

API是“應用程序接口”的英文縮寫。相關網站通常需要同時維護接入説明、參數定義、版本更新和錯誤處理文檔。資料入口越分散,集中整理的實際價值越明顯。

2. 產品規則較複雜的網站

如果產品文檔、定價、服務邊界、術語説明和更新日誌分佈在不同頁面,可以通過llms.txt列出當前有效入口,讓讀取方更容易找到重點資料。

前提是這些頁面已經公開、有效,而且不同頁面之間沒有事實衝突。

3. 已經確認有工具會讀取的網站

如果網站已經接入某個明確支持llms.txt的工具或工作流程,應先確認具體讀取方,再按照對方的要求部署和測試。

不能只因為行業文章籠統地説“AI會看”,就把它變成所有網站的固定配置。

4. 想借此檢查重點頁面的團隊

即使暫時沒有外部系統讀取,整理網站最重要的10至20個頁面,也能幫助團隊發現失效連結、重複版本和核心資料缺失。

不過,這種價值來自內部內容治理,不能被表述成已經產生了AI收錄或引用效果。

哪些網站應該先處理其他問題

如果網站存在以下情況,llms.txt不應排在前面:

  • 重要內容需要登錄後才能查看;
  • 重要正文依賴JavaScript動態加載,外部工具無法穩定讀取;
  • 主要資料是PDF掃描件,文字無法直接識別和讀取;
  • 品牌介紹、產品頁、服務頁、案例頁和聯繫方式之間存在事實衝突;
  • 網站還沒有清晰的核心頁面,只准備在llms.txt裏放一段宣傳文案;
  • 團隊把部署文件當成Google排名、AI收錄或AI引用的保證;
  • 無法説明誰會讀取、讀取哪些內容、由誰維護、如何驗收。

JavaScript是一種常用於網頁交互和動態加載內容的程序技術。PDF是便攜式文檔格式。兩者本身都不是問題,問題在於重要正文能否被外部工具穩定訪問和讀取。

頁面本身存在的問題,不會因為增加llms.txt而消失。這個文件只能重新整理和列出已有資訊,不能代替頁面整改。

一個可以直接修改的最小模板

# Example Company

> Example Company提供什麼產品或服務,主要服務誰,服務邊界是什麼。

## 核心頁面

- [關於我們](https://www.example.com/about): 公司主體、團隊與聯繫方式
- [產品總覽](https://www.example.com/products): 當前產品和適用場景
- [服務説明](https://www.example.com/services): 服務範圍、流程與交付邊界
- [案例](https://www.example.com/cases): 已公開且可以核驗的客戶案例
- [文檔](https://www.example.com/docs): 產品文檔與使用説明

## 可選資料

- [更新日誌](https://www.example.com/changelog): 版本與規則變更
- [常見問題](https://www.example.com/faq): 用戶常問問題

模板中的每條連結都應該指向當前有效頁面,連結後的説明也必須與頁面正文一致。

不要在文件中增加網頁上不存在的資質、客戶、價格或效果數據。llms.txt應該整理網站已經公開、可以核驗的資訊,而不是單獨寫一套新的品牌説法。

頁面發生變化後,文件也要同步更新。舊連結、舊價格或已經失效的規則如果繼續保留,會造成新的資訊衝突。

上線前檢查8項

HTTP狀態碼是伺服器返回的訪問結果。狀態碼200通常表示請求成功,404通常表示頁面不存在。上線前,可以按照下面八項逐一檢查:

檢查項 通過標準
文件位置 網站根目錄中的/llms.txt可以直接訪問
HTTP狀態 返回200,不是登錄頁或驗證碼頁面
內容格式 Markdown內容可讀,標題和連結清楚
事實一致 公司、產品、價格和資質與網頁一致
連結有效 重點網頁地址不跳錯頁、不返回404
頁面優先級 只列真正重要且當前有效的資料
維護責任 頁面變化時有人同步更新文件
效果口徑 不把部署完成等同於被收錄或被引用

驗收時不能只確認文件存在。文件返回200,但內容已經過期,不能算通過;連結可以打開,卻跳轉到錯誤版本,同樣需要修正。

部署後怎麼驗收

第一步:從公開地址檢查文件

直接訪問/llms.txt,確認HTTP狀態、文字編碼和正文顯示是否正常。

不要只看伺服器目錄裏有沒有文件。伺服器中存在文件,不代表外部訪問者一定能夠正常讀取。

第二步:逐條核對連結和説明

打開文件中的每條連結,確認頁面沒有失效,也沒有被跳轉到錯誤版本。

連結後的説明必須與頁面正文一致。網頁已經更新,文件仍保留舊資訊,説明維護沒有完成。

第三步:記錄版本資訊

記錄部署日期、文件哈希和維護人。

文件哈希是根據文件內容生成的一組識別值。文件內容發生變化,哈希通常也會隨之變化,因此可以用它判斷當前文件是否還是原來的版本。

有了這些記錄,團隊才能確認文件何時更新、當前使用哪個版本,以及出現問題後由誰處理。

第四步:測試真實讀取過程

如果部署llms.txt是為了某個具體工具,就要在該工具中進行真實讀取測試。只有這個工具確實返回了文件中的內容,才能説明讀取過程可用。

但讀取成功仍不等於一定引用。一次AI問答沒有引用品牌,不能反推文件失效;一次問答引用了品牌,也不能證明資訊一定來自llms.txt。部署驗收和引用效果必須分別判斷。

最常見的四個錯誤

1. 把它寫成抓取規則

llms.txt不負責控制訓練抓取、搜尋抓取或用戶發起的頁面訪問。

需要表達抓取偏好時,仍應按照對應平台的説明配置robots.txt及伺服器訪問策略。

2. 把所有網址都放進去

這項提案強調的是重要資訊入口,不是複製一份全站網頁地址清單。

連結過多,或者有效版本和失效版本混在一起,會讓文件難以使用,也會增加維護成本。

3. 文件和網頁各寫一套事實

網頁已經更新,文件仍保留舊內容,或者文件中增加了網頁上沒有的資訊,都會造成事實衝突。

llms.txt應該引用和概括現有頁面,不能脱離網站正文單獨形成另一套説法。

4. 花錢購買“保證收錄”

Google已經明確説明不使用llms.txt。其他系統是否採用,也必須查看各自的官方説明,並通過真實讀取測試確認。

在沒有明確讀取方的情況下,任何“保證收錄”或“保證引用”的説法都缺少依據。

最後結論

llms.txt可以做,但不是GEO的必做基礎配置。

對於文檔型網站、有明確讀取方,並且核心頁面已經整理好的團隊,它可以作為一項成本較低的兼容工作,為可能讀取它的工具增加一個資料入口。

對於資源有限的普通企業網站,更應該先做好可穩定讀取的頁面、清晰一致的事實、站內連結、可以核驗的依據和持續更新。這些問題沒有處理好,增加一個llms.txt文件不會帶來確定的AI收錄或引用效果。

決定是否部署時,不要只看其他網站有沒有。先回答四個問題:誰會讀、讀到什麼、內容變化後誰維護、怎麼驗證讀取結果。

如果這四個問題暫時沒有答案,就不要把llms.txt列為高優先級任務。

常見問題

1. llms.txt是正式的互聯網標準嗎?

目前不是。它是一項開放提案,不是網站必須遵守的強制標準。是否部署,應根據網站類型、資料結構和實際讀取方判斷。

2. 不做會影響Google的AI搜尋嗎?

Google官方明確表示,Google Search不使用llms.txt。不部署這個文件,不會因此影響網站在Google搜尋中的可見度或排名。

3. 做了能提升ChatGPT或Claude的引用嗎?

不能這樣承諾。

文件是否被讀取、讀取後如何使用、最終是否引用,是三個不同環節。需要查看具體產品的官方説明,並通過真實測試確認。

4. 它能替代robots.txt嗎?

不能。訓練抓取、搜尋抓取和用戶發起訪問的相關規則,仍應按照對應平台説明配置robots.txt及伺服器訪問策略。

5. 它能替代sitemap.xml嗎?

不能。站點地圖用於向搜尋系統提供網頁地址發現資訊;llms.txt用於向可能讀取它的工具提供摘要和重點資料入口,兩者用途不同。

6. 最適合先列哪些頁面?

可以優先列出公司主體、產品或服務、文檔、案例、常見問題和更新日誌。

前提是這些頁面已經公開、有效,而且頁面之間的事實保持一致。

官方資料

  • llms.txt提案:https://llmstxt.org/
  • Google生成式AI搜尋優化指南:https://developers.google.com/search/docs/fundamentals/ai-optimization-guide
  • Google AI功能與網站:https://developers.google.com/search/docs/appearance/ai-features