search

yuanzhoulvpi2017 / zero_nlp

中文nlp解决方案(大模型、数据、模型、训练、推理)
MIT License
2.81k stars 351 forks source link

lora推理中只能指定一个输入吗？有办法实现batch_size的推理吗 #159

Open HuStanding opened 10 months ago