linyiLYi / bilibot

A local chatbot fine-tuned by bilibili user comments.
Apache License 2.0
3.09k stars 355 forks source link

开始跑了后没见adapter模型输出到models 但是又没报错 M1Pro 32G机器 #29

Open xiongpan828 opened 4 months ago

xiongpan828 commented 4 months ago

使用模型:qwen1.5 7b 运行命令:python3 -m mlx_lm.lora --model models/Qwen1.5-7B-Chat --data data/ --train --iters 1000 --batch-size 8 --lora-layers 12

image image image image

疑问:这个是不是爆内存了,导致Qwen1.5-7B-Chat-Adapters没有输出到models目录下,但是adapters目录又有文件,大家有这个情况吗

wwr commented 4 months ago

生成的adapters目录默认不会放到models下面,直接--adapter-path adapters应该就行了

xiongpan828 commented 4 months ago

生成的adapters目录默认不会放到models下面,直接--adapter-path adapters应该就行了

可以了 谢谢