jerry1993-tech / Cornucopia-LLaMA-Fin-Chinese

聚宝盆(Cornucopia): 中文金融系列开源可商用大模型,并提供一套高效轻量化的垂直领域LLM训练框架(Pretraining、SFT、RLHF、Quantize等)
https://zhuanlan.zhihu.com/p/633736418
Apache License 2.0
588 stars 61 forks source link

模型加载没问题,不生成内容。在生成第一个回答时报这样的错 UserWarning: do sample is set to False . #17

Open zo-no opened 1 year ago

zo-no commented 1 year ago

请问怎么解决?😭😭😭

8743ba8798214506a01effc8a83cbc1
zo-no commented 1 year ago

python是3.9.16 transformers是4.33 CUDA是11.6