bojone / bert4keras

keras implement of transformers for humans
https://kexue.fm/archives/6915
Apache License 2.0
5.37k stars 927 forks source link

Serving model by bert-as-service. #372

Open Jhangsy opened 3 years ago

Jhangsy commented 3 years ago

提问时请尽可能提供如下信息:

基本信息

问题描述

使用 bert4keras 训练了一个分类模型输出了 save_weights 输出了 ckpt,model.load_weights 预测正常。 但是用 bert-as-service 结果不正确,观察了输出的 prob,每一个都很小,类似于 1/num_class 的值。 可能与 bert4keras 无关,不知道有没有同学遇到这个问题。 感谢帮助!

bojone commented 3 years ago

model.save_weights保存下来的并不是原版bert的格式,原则上用bert-as-service是没法加载的。

Jhangsy commented 3 years ago

model.save_weights保存下来的并不是原版bert的格式,原则上用bert-as-service是没法加载的。

谢谢苏神,bert-as-service 可能处于巧合成功加载了,那有没有什么方式可以保存成原版 bert 的格式。