问题出现得很突然,日志倒是留得挺全。LM Studio 0.3 里加载 Qwen2-VL 的 GGUF,聊天窗口能选图片但回答里说看不到图像,日志提示投影文件未加载,显存占用和纯文本模型一样。
刚开始盯着「API 调用时图片传了本地路径,服务端读不到」,折腾了半个多小时,排掉了。
排查方向其实有限,先把可能性排一排。只加载了主权重,没有配对应的 mmproj 文件。还有一种是mmproj 与主模型的量化版本不匹配。
还有一种情况,上下文长度不足,图像 token 被挤出窗口。
第一件事是确认模型目录里有没有投影文件
lms ls --detailed | findstr mmproj
补上投影文件后重启模型再测
lms load qwen2-vl-7b --gpu max --context-length 8192
随后用 base64 图片走接口验证
curl http://localhost:1234/v1/chat/completions -d @vision_req.json
剩下的就是换同版本的投影文件排除不匹配
lms load qwen2-vl-7b --mmproj mmproj-q8_0.gguf
改完先别撤,确认这几项。模型能描述图片里的文字内容,日志显示视觉投影已加载,显存占用明显高于纯文本。
多模态 GGUF 是两个文件,缺一个不会报错,只会安静地退化成纯文本模型。如果同一现象隔几天又出现,说明根因没找到,别当偶发处理。
