现场是这样的。8 卡 A100 服务器跑 7B 推理,连续压测 20 分钟后 GPU 温度到 86 度,SM clock 从 1410MHz 掉到 1050MHz,P99 从 900 毫秒涨到 1.9 秒,风扇已经 100%,机房进风 38 度。

中间走过弯路,把「相邻卡之间没有挡板,热风回流」当成主因,改完现象没变。

把日志和配置对完,能解释这个现象的基本就这几处。机箱进风温度太高,风道被线缆挡住;功耗墙设成 400W,温度墙先触发;风扇曲线是默认策略,降频前没有提前拉满。

先看每张卡的温度和当前时钟

nvidia-smi --query-gpu=index,temperature.gpu,clocks.sm,clocks_throttle_reasons.active --format=csv

然后把功耗墙下调一档观察温度与延迟

nvidia-smi -i 0 -pl 300

随后确认风扇策略和进风温度

nvidia-smi -q -d TEMPERATURE,FAN | grep -E 'GPU Current Temp|Fan Speed|Inlet'

整理风道后复跑同一压测

python bench.py --model qwen2-7b --concurrency 32 --duration 1200

同事提醒我看一下最近一次发布,时间点确实对得上。

恢复的判定其实很直接。满载温度稳定在 75 度以下,SM clock 保持 1410MHz,P99 回到 1 秒以内,throttle reasons 里不再出现 SW Thermal。

温度墙比功耗墙优先,机房进风 38 度时再怎么调风扇也没用;先解决风道和进风,再谈降功耗,否则降频会一直复现。如果同一现象隔几天又出现,说明根因没找到,别当偶发处理。

作者 9823189