站点两年里从五万篇涨到二十万篇,日均抓取量还卡在一万二,新文章的平均进索引时间从两天拉长到三周。
真正麻烦的地方在于,几个原因的现象几乎一样。站点的抓取配额按历史响应质量评估,不会因为页面变多自动上调;新老文章共用同一个 sitemap,蜘蛛按顺序抓永远抓不到新内容;内链权重集中在首页和热门页,新文章几乎拿不到入口;大量页面响应时间超过一秒,配额被压在低档。
上来先按日期统计日志里被抓的 URL 分布
awk -F'"' '{split($2,a," "); print a[2]}' access.log | grep -c '/2026/'
接着把新文章单独放进一个分片 sitemap
curl -s https://www.example.com/sitemap-news.xml | head -5
给新文章加首页或栏目的固定入口
wp post list --post_status=publish --after='7 days ago' --field=ID
等前面都确认过,再抽测内页的响应时间
curl -o /dev/null -s -w '%{time_starttransfer}\n' https://www.example.com/a/
恢复的判定其实很直接。新文章分片的抓取占比升到三成以上,日志里当月的 URL 明显增多,进索引时间回到一周以内。
这里还有个坑。页面数量增长不会自动带来配额,先把响应时间和新内容入口做好,再谈提交,否则新地址只会排队。拖得越久,排查成本越高,因为现场状态会被后续操作覆盖。
