站点做了目录重构 三个月看索引总量一直是 5.2 万 以为没受影响 导出索引明细做差集才发现四成是新建地址 老文章大量掉出 总量持平掩盖了结构崩坏 自然流量掉了三成
一开始怀疑是「sitemap 只提交新目录 老地址没做处理」,查了一圈,方向不对。
排查方向其实有限,先把可能性排一排。监控只看索引总量 不比对地址集合。另一种情况是新目录上了但老地址 301 只做了一半。
不容易想到的是,索引报表按天存快照 没做差集分析。
第一件事是导出两个时间点的索引地址做差集
sort old.txt > a.txt; sort new.txt > b.txt; comm -13 a.txt b.txt | wc -l
随后统计掉出比例并按目录分组
comm -23 a.txt b.txt | cut -d/ -f4 | sort | uniq -c | sort -rn | head
给掉出的目录补 301 映射
grep -c '^/old/' old.txt
剩下的就是把差集结果接进日报告警
python diff_index.py --warn 5%
恢复的判定其实很直接。差集里掉出比例降到 2% 以下 新地址占比稳步上升 索引总量与有效页面数对得上。
提醒一点。索引总量是最容易骗人的指标 涨了可能是重复页 平了可能是换血 只有地址集合不会说谎。改动前把原配置备份一份,出问题能马上回滚,这比任何技巧都实用。
