报错是这么冒出来的。在 16G 内存的笔记本上 ollama run qwen2.5:14b,直接报 Error: model requires more system memory (11.6 GiB) than is available (8.2 GiB),模型文件其实已经下载完成。

中间走过弯路,把「模型同时加载了两份,旧实例没有释放」当成主因,改完现象没变。

真正麻烦的地方在于,几个原因的现象几乎一样。14b 的 q4 版本运行时占用接近 11G,超过可用内存。也可能是浏览器和 IDE 占掉了大半内存,可用值被压低。

还有一种情况,系统页面文件太小,无法用交换空间兜底。

动手时先看当前有哪些模型驻留在内存里

ollama ps

再往下换成更小的参数量或更低比特量化

ollama run qwen2.5:7b-instruct-q4_K_M

手动卸载不用的模型释放内存

ollama stop qwen2.5:14b

限制同时加载的模型数量

$env:OLLAMA_MAX_LOADED_MODELS='1'; ollama serve

恢复的判定其实很直接。ollama run 能正常进入对话,ollama ps 里只保留一个模型,任务管理器里可用内存保持在 2G 以上。

补一句。报错里的可用内存是启动那一刻的快照,关掉浏览器再跑往往就能过,所以别急着换模型,先把占用降下来再看。拖得越久,排查成本越高,因为现场状态会被后续操作覆盖。

作者 9823189