search

fastnlp / CPT

CPT: A Pre-Trained Unbalanced Transformer for Both Chinese Language Understanding and Generation
481 stars 70 forks source link

pretrain任务的环境版本 #38

Closed 1190303311 closed 1 year ago

1190303311 commented 2 years ago

使用bart的pretrain部分code时出现了一些问题，想问一下需要以下环境版本都是多少呢？： torch版本 cuda版本 gcc版本 非常感谢！

choosewhatulike commented 1 year ago

我使用的是nvidia提供的docker环境，参见：https://github.com/fastnlp/CPT/blob/master/pretrain/README_megatron.md#setup