1、web_demo.py运行后回答全是“The human:”；2、以及连接llama与vicuna之后的模型后缀为.safetensors而非.bin

[Grace-yafei]

1、在web页面，无论询问什么问题，回复都是如下： “The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: The human: ” ![Uploading eaf880933c7ebbdda62b0ae564e87dc.png…]()

2、连接llama与vicuna之后的模型后缀为.safetensors而非.bin 如下是我的相关库的版本（按照requirements.txt安装）： transformers 4.29.1
fschat 0.1.10
deepspeed==0.9.2

[Grace-yafei]

第二个问题已经解决，但回复全为The human:的问题依旧没有头绪

[Oliver9489]

请问第二个问题是怎么解决的

[muxixi727]

我也遇到了同样的问题，请问已经解决了吗

[jjjjiao]

您好，请问第二个问题是怎么解决的？

[ggamaz]

都是复现？

[MegaCambrian]

我也遇到了同样的问题，请问已经解决了吗

安装pip install peft==0.3.0 和 pip install transformers==4.29.1 就能生成bin文件，就是这么神奇。