站点断了十分钟,平台显示短信已发送,值班手机一条没收到,翻记录发现收件人还是两年前离职的号码。第一次遇到会往复杂处想,其实漏掉的多是个小前提。
grep -rn '13800000000' /etc/alert/contacts.yml systemctl restart alert-agent && tail -20 /var/log/alert.log
告警联系人表建好之后没人维护,离职 换号 转岗都没同步,也没有第二接收人和升级策略,一条通知发丢就彻底静默,谁也不会补发。这一点先确认清楚,后面就不用反复试。
「告警联系人失效」相关的日志我一般连着看前后五分钟,单看一条报错经常判断不出是哪一步失败。把复现步骤压到三条以内,交给同事也能跑出来,才算真的定位清楚。
改动写完就同步给同事,下一个人踩同一个坑,成本还是你的。
具体做法是,把告警联系人按组维护,一组至少放两个接收人;加一级升级策略,五分钟没人确认就转给负责人;每季度发一条测试告警,核对号码还能不能收到。
改完照着核一遍,测试告警两个接收人都收到,五分钟未确认时能自动升级到负责人手里。
