bojone / bert4keras

keras implement of transformers for humans
https://kexue.fm/archives/6915
Apache License 2.0
5.37k stars 929 forks source link

加载albert_base版报错 #251

Open skywindy opened 4 years ago

skywindy commented 4 years ago

提问时请尽可能提供如下信息: 苏老师,您好,我用bert4keras加载albert模型报以下错误: tensorflow.python.framework.errors_impl.NotFoundError: Key bert/encoder/embedding_hidden_mapping_in/kernel not found in checkpoint 使用了brightmart训练的albert_base版,和您这边转换后的版本,都有这个错误

基本信息

bojone commented 4 years ago

传入model='albert'了吗?认真看过examples了吗?

hackerxiaobai commented 3 years ago
bojone commented 3 years ago

brightmart版不支持,如果是我自己转换的版本,则没有embedding_hidden_mapping_in层,因此也不会保证这个错。