Facico / Chinese-Vicuna

Chinese-Vicuna: A Chinese Instruction-following LLaMA-based Model —— 一个中文低资源的llama+lora方案,结构参考alpaca
https://github.com/Facico/Chinese-Vicuna
Apache License 2.0
4.14k stars 425 forks source link

拉去最新分支之后,通过pip install安装好了bitsandbytes==0.37.2,但是通过finetune_other_continue执行的时候,报此模块没有__version__ #219

Closed niuhuluzhihao closed 1 year ago

niuhuluzhihao commented 1 year ago

if USE_8bit is True:

assert bnb.version >= '0.37.2', "Please downgrade bitsandbytes's version, for example: pip install bitsandbytes==0.37.2"

注意到新的代码中,对原先的finetune_other_continue做出了修正,添加了assert判断,然而执行的时候显示bnb没有version。 目前是采用的将此两行进行注释的方式,这种方式可以正常运行. image

smartswordsman commented 1 year ago

你好,请问这个问题怎么解决的呢?

kbwzy commented 1 year ago

同最新代码: 我是直接注释掉,这两行代码: image 看起来是可以跑得,但是会报另外一个错误。 image

image

kbwzy commented 1 year ago

同最新代码: 我是直接注释掉,这两行代码: image 看起来是可以跑得,但是会报另外一个错误。 image

image 是这个包引起的。

pip uninstall nvidia-cublas-cu11之后就好了

Facico commented 1 year ago

感谢提醒,这行代码没测过,只是想提醒训练8bit的时候bitsandbytes的版本问题,我现在改成warning了 没想到bitsandbytes没写version这个属性。。。

niuhuluzhihao commented 1 year ago

@Facico 那我关闭问题了