报错是这么冒出来的。在 16G 内存的笔记本上 ollama run qwen2.5:14b,直接报 Error: model requires more system memory (11.6 GiB) than is available (8.2 GiB),模型文件其实已经下载完成。
中间走过弯路,把「模型同时加载了两份,旧实例没有释放」当成主因,改完现象没变。
真正麻烦的地方在于,几个原因的现象几乎一样。14b 的 q4 版本运行时占用接近 11G,超过可用内存。也可能是浏览器和 IDE 占掉了大半内存,可用值被压低。
还有一种情况,系统页面文件太小,无法用交换空间兜底。
动手时先看当前有哪些模型驻留在内存里
ollama ps
再往下换成更小的参数量或更低比特量化
ollama run qwen2.5:7b-instruct-q4_K_M
手动卸载不用的模型释放内存
ollama stop qwen2.5:14b
限制同时加载的模型数量
$env:OLLAMA_MAX_LOADED_MODELS='1'; ollama serve
恢复的判定其实很直接。ollama run 能正常进入对话,ollama ps 里只保留一个模型,任务管理器里可用内存保持在 2G 以上。
补一句。报错里的可用内存是启动那一刻的快照,关掉浏览器再跑往往就能过,所以别急着换模型,先把占用降下来再看。拖得越久,排查成本越高,因为现场状态会被后续操作覆盖。