curl -m 90 -H 'X-Request-Id: req-77' https://proxy.example.com/v1/chat -d @req.json
代理层 30 秒超时,SDK 又配了 2 次重试,一次用户请求在上游变成 3 次调用,账单翻了三倍。这类现象通常不是突然出现的,往前翻半天日志能看到苗头。
追下去是这么回事:两层都有超时和重试,代理先断,SDK 认为失败再发,上游其实还在跑。重试叠加放大了请求量和计费。
「代理超时重试叠加」排查到最后往往是很小的一处差异,前面那些复杂猜测可以先放一放。同类问题如果隔一段时间又出现,多半是某个定时任务或重启流程把改动冲掉了。
把这次用到的命令存进笔记,比记住结论有用,换个环境还能照着走。改完隔一天再看一次,当场正常不代表能稳住。
测试环境和线上的差别,往往就在版本号和那几行被忽略的配置上。
处理上按这个顺序:重试只保留一层 统一放在 SDK;代理超时设得比 SDK 长 避免提前断开;透传请求 id 便于上游去重;用慢响应模拟验证只发一次。
确认没问题再收工,慢响应场景上游只收到 1 次请求 账单不再翻倍。
