search

yuanzhoulvpi2017 / zero_nlp

中文nlp解决方案(大模型、数据、模型、训练、推理)
MIT License
3.03k stars 368 forks source link

lora推理中只能指定一个输入吗？有办法实现batch_size的推理吗 #159

Open HuStanding opened 1 year ago