search

brightmart / albert_zh

A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS, 海量中文预训练ALBERT模型
https://arxiv.org/pdf/1909.11942.pdf
3.94k stars 753 forks source link

the freeze graph 的时候出现了问题　求助 #102

Open 652994331 opened 4 years ago

652994331 commented 4 years ago

我在使用下列的方式压缩模型的时候　出现了问题

image

pip install tensorflow==1.15

freeze_graph --input_checkpoint=./albert_model.ckpt \ --output_graph=/tmp/albert_tiny_zh.pb \ --output_node_names=cls/predictions/truediv \ --checkpoint_version=1 --input_meta_graph=./albert_model.ckpt.meta --input_binary=true

我去检查了下模型生成路径下的graph.pbtxt 里面的node 似乎没有这个cls/....... 我看到里面的node 量有很多，　不知道该用哪个　求助　谢谢

brightmart commented 4 years ago

你也可以看看这个，这里有压缩模型的例子，是手机上的阅读理解https://github.com/CLUEbenchmark/MobileQA

multiverse-tf commented 4 years ago

我在使用下列的方式压缩模型的时候　出现了问题

image

pip install tensorflow==1.15

freeze_graph --input_checkpoint=./albert_model.ckpt --output_graph=/tmp/albert_tiny_zh.pb --output_node_names=cls/predictions/truediv --checkpoint_version=1 --input_meta_graph=./albert_model.ckpt.meta --input_binary=true

我去检查了下模型生成路径下的graph.pbtxt 里面的node 似乎没有这个cls/....... 我看到里面的node 量有很多，　不知道该用哪个　求助　谢谢

用的是哪个链家下的ckpt输入？应该在模型中找对应的最终output node名字。

652994331 commented 4 years ago

@multiverse-tf 　我这里用的是albert_tiny_489k 目录下的ckpt 计划未来使用　自己的预训练模型 我理解您的意思是要去modeling.py 中ouptut_node_name 请问对吗

rsindper commented 3 years ago

请问您最后找到这个ouptut_node_name了吗

h-yw commented 8 months ago

使用albert_tiny_489训练后，就没有cls/predictions/truediv这个node了，可咋整