User-agent: * Disallow: /wp-content/uploads/ Allow: /wp-content/themes/ Allow: /wp-content/plugins/
为了不让爬虫抓上传目录,在 robots.txt 写了 Disallow: /wp-content/,结果抓取工具渲染页面时拿不到 CSS 和 JS,截图全是无样式文本。先别急着动参数,把报错原文和时间点记下来,顺序反了容易白折腾。
原因不复杂,wp-content 下面同时放着 themes、plugins 和 uploads,一条规则把样式脚本一起挡了。抓取工具渲染页面需要这些资源,被挡后按裸 HTML 评分。
「robots 屏蔽静态资源」改完先别急着全量,挑一台机器放半天,真有问题这段时间就能看出来。改动写完就同步给同事,下一个人踩同一个坑,成本还是你的。
验证用真实数据走一遍,测试数据太干净,边界情况根本碰不到。能分两步做的操作就别合成一步,中间看一眼返回值,出问题好判断。
报错里带路径的,先去看那个路径在不在、权限对不对。
处理上按这个顺序:把规则收窄到 /wp-content/uploads/,只挡上传文件;保留 themes 和 plugins 目录可抓;在 Search Console 的 robots 测试里验证 CSS 地址是 allowed。
改完只确认一件事:robots 测试里主题 CSS 显示允许,抓取工具截图恢复带样式。
