search

LiuHC0428 / LAW-GPT

中文法律对话语言模型
1.06k stars 119 forks source link

使用Lora推理慢很多 #13

Open cxj01 opened 1 year ago

cxj01 commented 1 year ago

使用Lora推理慢很多

LiuHC0428 commented 1 year ago

具体推理速度与GPU和CPU有关，可以多尝试几次