Closed liuwj2000 closed 3 weeks ago
你好,请问一下你这边设置的batch_size是把一张A100用到满的设置嘛~我是一张32GB的显卡, 是不是batch_size要比你小很多呢
建议如果是32G显存的卡需要把batch size设置小一些比较好,或者调整base model为gpt-2或bert,您可以进行尝试,看哪种方案最适合你
你好,请问一下你这边设置的batch_size是把一张A100用到满的设置嘛~我是一张32GB的显卡, 是不是batch_size要比你小很多呢