这类问题我又碰上了一次。工单摘要一直用旗舰模型跑,每天 4000 条,单月成本 1.8 万,抽检发现摘要质量与轻量模型差别很小,团队开始评估降级。

第一反应是「降级缺 A/B 数据支撑,没人敢拍板」,验证下来不成立。

排查方向其实有限,先把可能性排一排。摘要任务没有分级,全部走同一档模型;没有按长度和复杂度选择模型;重跑历史摘要时又用了一次旗舰模型。

上来先按任务类型拆分成本

python cost_report.py --group-by task --since 30d

接着用 200 条样本双模型对比摘要质量

python ab_summary.py --docs 200 --models flagship,mini

然后按长度设置分档路由

python -c "print({'lt_3000':'mini','else':'flagship'})"

灰度一周看人工评分与返工率

python review_report.py --task summary --window 7d

怎么算真的好了,看的是同一批现象。轻量模型承接了 78% 的摘要请求,人工评分只差 0.3 分,月成本从 1.8 万降到 0.6 万。

降级要看任务而不是看整体,摘要这类任务对模型能力不敏感;先用样本双跑拿到数据,再按长度分档,别一刀切。这类问题最好一次改到位,反复小改反而容易把原因搅混。

作者 9823189