陆零知识
免费网络在线学习平台
这类问题我又碰上了一次。在一个进程里先后加载两个 LoRA,…
记录一下那天晚上的排查过程。显存只够跑 batch size…
现场是这样的。用 cosine 调度训练完,日志显示最后的学…
现场是这样的。从 checkpoint 恢复训练后,学习率曲…
训练跑到一半报 No space left on devic…
这个坑值得记一笔。训练启动后卡在 wandb 初始化,日志反…
先把当时的情况摆出来。按说明跑中文评测,下载数据集阶段一直失…
这个坑值得记一笔。跑 MMLU 得到二十多分,明显低于该模型…
执行评测时报任务名不存在,试了 mmlu、ceval 都提示…
事情本身不复杂,线索都在日志里。加载自己训练的 tokeni…