-
新数据已经改为示例数据格式,labels名称和数量更换了,文件txt也是utf-8格式,但是依然会报错,百思不得其解:
ERROR:tensorflow:Error recorded from evaluation_loop: 'utf-8' codec can't decode bytes in position 2844-2845: invalid continuation byte
E1…
-
以albert_tiny_zh预训练模型作为输出文件夹的模型报错(即不经过fine tune这一步 直接以albert_tiny_zh模型运行similarity脚本)
错误信息:tensorflow/core/framework/op_kernel.cc:1273] OP_REQUIRES failed at save_resto re_v2_ops.cc:184 : Not fou…
-
您好,在github上看到了您的albert_zh项目,我在工程中也在使用您开源的albert_zh预训练代码。
我尝试在您训练的albert_small基础之上,使用金融语料预训练albert_small。
碰到问题:
在10万金融语料上训练后,即使再增加数,模型精度也不再提升,损失也不再下降。
当使用原先的学习率(0.000176)会发散,学习率我已经降低到1e-5和1e-6,但是学习…
-
请问下,我想在 albert_zh 后面拼接上一个ctc loss 的输出,能实现么?
-
请问中文albert训练过程中是按字符级分割还是按词语级分割?基于albert_zh预训练模型做Fine-tune时,有办法选择按字符级还是按词语级分割训练数据吗?谢谢
-
GPU(brightmart版, tiny模型):
export BERT_BASE_DIR=./albert_tiny_zh
nohup python3 run_pretraining.py --input_file=./data/tf*.tfrecord \
--output_dir=./my_new_model_path --do_train=True --do_eval=True …
-
when i run tfmodel_2_pymodel.py, pycharm told me OSError: Data loss: not an sstable (bad magic number): perhaps your file is in a different file format and you need to use a different restore operator…
-
如题,想问一下,albert_large_zh在文本分类的任务上有什么特殊的地方吗?
-
I have pretrained an albert using my own data(chinese language), then I wanted to use this pretained model into downstream tasks, but I got this error when I load my pre trained Albert file. I guess i…
-
在LCQMC,亲测,直接用albert的fine-tuneing ,1 epoch,F1 score=0.84032。直接用你的模型,F1 score=0.80712