请问如何正常退出跑几次后就CUDA out of memory

TsinghuaAI / CPM-1-Generate

Chinese Pre-Trained Language Models (CPM-LM) Version-I

MIT License

1.59k stars 211 forks source link

Open Yangxiaojun1230 opened 3 years ago

Yangxiaojun1230 commented 3 years ago

使用交互式命令 bash scripts/generate_text.sh /CPM 如何正常退出呢？我使用ctrl+C退出然后再启动，就oom了，请问该如何正常退出或是说怎么清理显存。

zzy14 commented 3 years ago

输入exit应该可以正常退出，运行的时候prompt里会有提示。另外如果显存占用的话可以使用killall python或者killall python3来退出相关进程。