ssbuild / chatglm_finetuning

chatglm 6b finetuning and alpaca finetuning
1.54k stars 176 forks source link

infer_lora_finetunning.py 报错 #204

Open philipyao opened 1 year ago

philipyao commented 1 year ago

image

采用 lora 推理模型,报 config.json不存在,请问这个是什么原因?文件是存在的

ssbuild commented 1 year ago

错误提示有误,这个lora 是缺少 adapter_config.json 文件 。

philipyao commented 1 year ago

错误提示有误,这个lora 是缺少 adapter_config.json 文件 。

感谢回复。请问这个 best_ckpt 文件夹是怎么生成的,这个 adapter_config.json 文件怎么拿到?我搜了一下,没有找到太多的有用信息,麻烦指教一下,谢谢

ssbuild commented 1 year ago

你用的版本应该是在 last_ckpt 目录下, 文件复制到 best_ckpt 目录下就可以了。

philipyao commented 1 year ago

看了一下,是不是应该先 train 再执行推理脚本?这个 best_ckpt 应该是训练出来的 checkpoint 配置吧?我按照 readme 里的步骤执行 data_utils.py 之后直接 执行 infer_lora_finetunning.py 是报错的