curl -m 90 -H 'X-Request-Id: req-77' https://proxy.example.com/v1/chat -d @req.json

代理层 30 秒超时,SDK 又配了 2 次重试,一次用户请求在上游变成 3 次调用,账单翻了三倍。这类现象通常不是突然出现的,往前翻半天日志能看到苗头。

追下去是这么回事:两层都有超时和重试,代理先断,SDK 认为失败再发,上游其实还在跑。重试叠加放大了请求量和计费。

「代理超时重试叠加」排查到最后往往是很小的一处差异,前面那些复杂猜测可以先放一放。同类问题如果隔一段时间又出现,多半是某个定时任务或重启流程把改动冲掉了。

把这次用到的命令存进笔记,比记住结论有用,换个环境还能照着走。改完隔一天再看一次,当场正常不代表能稳住。

测试环境和线上的差别,往往就在版本号和那几行被忽略的配置上。

处理上按这个顺序:重试只保留一层 统一放在 SDK;代理超时设得比 SDK 长 避免提前断开;透传请求 id 便于上游去重;用慢响应模拟验证只发一次。

确认没问题再收工,慢响应场景上游只收到 1 次请求 账单不再翻倍。

作者 9823189