记录一下那天晚上的排查过程。供应商价格表写的是每百万 token 2 元,财务按每千 token 2 元录进表格,月度成本预测直接放大一千倍,预算审批被卡住,重新核对才发现是单位问题。

刚开始盯着「表格里美元与人民币混用」,折腾了半个多小时,排掉了。

把日志和配置对完,能解释这个现象的基本就这几处。单价单位是每百万而非每千。少数情况下是输入输出单价不同,录入时只取了一个。

少数情况下是缓存命中价与标准价不同。

第一件事是统一换算到每千 token 再录

python price.py --in 2 --out 8 --unit 1000000

随后输入输出分成两列记单价

python price.py --split

再往下用上月实际 token 数反算

python forecast.py --tokens 120000000 --price-in 2 --price-out 8

与账单金额比对误差

python diff.py --forecast 1560 --bill 1520

改完先别撤,确认这几项。预测金额与账单误差在 5% 以内,表格单位列写明每百万 token,输入输出两列都有值。

容易忽略的是,报价单位从每千改到每百万是行业惯例变化,录价格时把单位写进表头,比记住数字可靠。线上能稳定复现的问题都不算难,难的是只在大流量下才出现的那种。

作者 9823189