先把当时的情况摆出来。站点按社区草案在根目录放了 llms.txt,用 Markdown 列了两百篇文章的标题和链接,三周后日志里 GPTBot 仍是每天三十次左右,ChatGPT 回答里也没带站内链接。中途换过文件位置和编码,现象没变。

真正麻烦的地方在于,几个原因的现象几乎一样。llms.txt 目前只是社区提案,OpenAI 与 Google 都没有声明会读取。还有一种是文件放在需要登录或 CDN 拦截的路径,抓取端拿到的不是 200。

还有一种情况,内容用 Markdown 列表但没给完整纯文本 URL,解析端直接跳过。另外,GPTBot 来不来由 robots 分组和站点权重决定,跟这个文件无关。

上来先看文件状态码和类型

curl -sI https://www.example.com/llms.txt

接着抽查前二十行的格式

curl -s https://www.example.com/llms.txt | head -20

再往下确认 robots 没有挡住 GPTBot

grep -n -A3 "GPTBot" /var/log/nginx/../robots.txt

末了按 UA 统计真实抓取

grep -c "GPTBot" /var/log/nginx/access.log

别只看报错消失,验证要多做一步。文件稳定返回 200 且 Content-Type 是 text/plain,日志里 GPTBot 的请求从每天三十次涨到两百次以上,才说明入口真正打通了。

把它当辅助说明可以,别指望替代 sitemap 和内链,两者面向的抓取路径完全不同。线上能稳定复现的问题都不算难,难的是只在大流量下才出现的那种。

作者 9823189