import pytest assert 0.1 + 0.2 == pytest.approx(0.3, rel=1e-9) assert round(1.005, 2) == round(1.005, 2)
计算结果与期望值差一点点,断言直接失败,看日志又觉得数值一样。这类现象通常不是突然出现的,往前翻半天日志能看到苗头。
追下去是这么回事:浮点运算存在表示误差,精确相等比较几乎不可能成立。
这次卡住的地方就在「浮点断言容差」这一环,单独把它拎出来验证,别和其他改动混在同一次发布里。权限不要一口气开到最大,先加到够用再往上试,范围小才好收。
把复现步骤压到三条以内,交给同事也能跑出来,才算真的定位清楚。改动写完就同步给同事,下一个人踩同一个坑,成本还是你的。
验证用真实数据走一遍,测试数据太干净,边界情况根本碰不到。能分两步做的操作就别合成一步,中间看一眼返回值,出问题好判断。
处理上按这个顺序:使用带容差的比较;统一小数位;金额改用整数分。
确认没问题再收工,涉及浮点的用例稳定通过,同时仍能捕获真实偏差。