这类问题我又碰上了一次。列表页从每页 50 条改成 10 条,全站分页从一万六涨到九万多,日志里分页请求占了一半,正文页抓取被挤到每天几十条。

这类报错背后常见的原因有几处,逐个排除就行。每页条数减少,分页数量成倍膨胀;分页没有 noindex,全部进了 sitemap;深分页仍输出完整模板,内容却几乎为空。

第一件事是统计分页地址数量

curl -s https://www.example.com/sitemap.xml | grep -c '/page/'

再往下确认深分页是否还有内容

curl -s https://www.example.com/list/page/800/ | wc -c

调整每页条数并收口深分页

grep -rn 'posts_per_page' themes/ --include=*.php | head

中间停过一次,把已经改的东西回滚干净,再重新来一遍。

同样的操作我在测试机上先走了一遍,线上只做验证过的部分。

怎么算真的好了,看的是同一批现象。调回每页 30 条并收口深分页后,分页抓取占比降到一成,正文抓取量翻倍。

补一句。分页是给用户翻的,不是给蜘蛛铺的,每页条数要兼顾加载速度和分页总量。拖得越久,排查成本越高,因为现场状态会被后续操作覆盖。

作者 9823189