User-agent: *
Disallow: /wp-content/uploads/
Allow: /wp-content/themes/
Allow: /wp-content/plugins/

为了不让爬虫抓上传目录,在 robots.txt 写了 Disallow: /wp-content/,结果抓取工具渲染页面时拿不到 CSS 和 JS,截图全是无样式文本。先别急着动参数,把报错原文和时间点记下来,顺序反了容易白折腾。

原因不复杂,wp-content 下面同时放着 themes、plugins 和 uploads,一条规则把样式脚本一起挡了。抓取工具渲染页面需要这些资源,被挡后按裸 HTML 评分。

「robots 屏蔽静态资源」改完先别急着全量,挑一台机器放半天,真有问题这段时间就能看出来。改动写完就同步给同事,下一个人踩同一个坑,成本还是你的。

验证用真实数据走一遍,测试数据太干净,边界情况根本碰不到。能分两步做的操作就别合成一步,中间看一眼返回值,出问题好判断。

报错里带路径的,先去看那个路径在不在、权限对不对。

处理上按这个顺序:把规则收窄到 /wp-content/uploads/,只挡上传文件;保留 themes 和 plugins 目录可抓;在 Search Console 的 robots 测试里验证 CSS 地址是 allowed。

改完只确认一件事:robots 测试里主题 CSS 显示允许,抓取工具截图恢复带样式。

作者 9823189