search

jasoncao11 / nlp-notebook

NLP 领域常见任务的实现，包括新词发现、以及基于pytorch的词向量、中文文本分类、实体识别、摘要文本生成、句子相似度判断、三元组抽取、预训练模型等。
MIT License
500 stars 109 forks source link

请问bert中文预训练做4-5的时候的运行时显存要求是多少 #8

Open ShengwuZheng opened 1 year ago

ShengwuZheng commented 1 year ago

我目前是在校学生，只能用自己的笔记本进行实验，显卡是GTX2060 6GB的，但是显然是不够的，希望知情的人可以告知，不胜感激

WX252 commented 1 year ago

我目前是在校学生，只能用自己的笔记本进行实验，显卡是GTX2060 6GB的，但是显然是不够的，希望知情的人可以告知，不胜感激

你好我也是学生 请问您知道用多大的了吗

jonathanwx commented 1 year ago

不是我说 ，我这边四张v100的卡都提示显存out of memory