search

TsinghuaAI / CPM-2-Finetune

Finetune CPM-2
MIT License
83 stars 21 forks source link

CPM2模型推理代码 #30

Closed Bournet closed 2 years ago

Bournet commented 2 years ago

基于 CPM2 微调了一版模型，想用微调的模型做推理，请问有针对 CPM2 模型的单卡或者多卡的推理代码吗

XiaoqingNLP commented 2 years ago

@Bournet 把参数设置中的do_train 关掉，再把do_eval 打开，即可推理；也可以根据需要定制化修改它这个代码里的推理部分