CausalLMOutputWithPast' object has no attribute 'backward‘

[SchweitzerGAO]

请问这个问题怎么解决啊

[SchweitzerGAO]

补充： 得到这个报错的配置如下：

--num_train_epochs 5 \
--save_steps 1000 \
--learning_rate 2e-5 \
--logging_steps 50 \
--remove_unused_columns false \
--save_total_limit 2 \

且注释掉了CastOutputToFloat相关内容， 若加上fp16参数以及CastOutputToFloat相关内容，则会得到以下错误： AttributeError: 'map' object has no attribute 'backward' 这份配置参考了这里

[SchweitzerGAO]

我的锅，代码有一个小部分的bug