Closed I-Good-Vegetable closed 4 months ago
唔唔~得在model_transformer.py的第27行后面加上,attn_implementation='eager'变成
self.bert = BertModel.from_pretrained(model_dir, config=config, attn_implementation='eager')
要不咱给它加上呢
Hi,我当时用的是transformers == 4.12.5
库,对里面的BertModel做了一些修改让他能够输出attention score,建议使用对应版本的transformers库,看看是否问题依旧?
嗯嗯好的好的~谢谢您
您好,我尝试运行run.sh结果出现bert模型不支持scaled_dot_product_attention的错误。这是什么导致的呢?谢谢~ 下面是run.sh的内容
出现的error: