这个问题在线上不会自己消失,按现象、配置、日志三步走基本能定位。 上线新配置时把测试环境的 robots.txt 同步到了生产环境,Disallow: / 整整跑了三天,GSC 有效页面从一万二掉到零,自然流量几乎贴地。
改动前把原配置备份一份,出问题能马上回滚,这一步比任何技巧都实用。
先分清是哪一类原因
- 测试配置随发布流程一起进了生产目录,没人复核
- 全站禁抓后蜘蛛不再访问,已收录页面被逐步移出索引
- CDN 和反向代理各缓存了一份旧文件,改回来也不立即生效
按顺序处理
1. 确认线上返回的真实内容与状态码
curl -sI https://www.example.com/robots.txt
2. 逐个节点清缓存,别只清源站
curl -X PURGE https://www.example.com/robots.txt
3. 重新抓取并提交索引文件
curl -s https://www.example.com/sitemap_index.xml | head -5
怎么确认已经恢复
四十八小时内覆盖率报表里被 robots 屏蔽的条目清零,抓取统计恢复到此前的日均水平,第三天开始有页面重新进索引。
容易忽略的地方
误封后别急着连续改第二版,先确认每个 CDN 节点都回到新文件,否则蜘蛛读到的还是旧内容,越改越乱。 处理过程中建议每改一项就验证一次,避免多个变量同时变化导致判断失真。