search

Macielyoung / Bloom-Lora

Finetune Bloom big language model with Lora method
28 stars 2 forks source link

如何加载特定step保存的模型？ #4

Closed Taoooo9 closed 1 year ago

Taoooo9 commented 1 year ago

请问是不是模型训练完才会生成adapter_config.json和adapter_model.bin文件？目前，模型还在训练，只得到了如下的文件： image 请问这些文件可以加载吗？和adapter_model.bin有什么区别？

Macielyoung commented 1 year ago

pytorch_model.bin就是adapter_model.bin，可以改一下名字。config json没有保存下来，可以自己编辑一下，参考一下llama微调出的模型配置文件(https://huggingface.co/chainyo/alpaca-lora-7b/blob/main/adapter_config.json)。

Taoooo9 commented 1 year ago

pytorch_model.bin就是adapter_model.bin，可以改一下名字。config json没有保存下来，可以自己编辑一下，参考一下llama微调出的模型配置文件(https://huggingface.co/chainyo/alpaca-lora-7b/blob/main/adapter_config.json)。%E3%80%82)

谢谢