使用task_seq2seq_autotitle_csl_uer_t5.py代码，加载uer/t5-small-chinese-cluecorpussmall中的config.json报错

Tongjilibo / bert4torch

An elegent pytorch implement of transformers

https://bert4torch.readthedocs.io/

MIT License

1.23k stars 153 forks source link

Closed weiiWill closed 2 years ago

weiiWill commented 2 years ago

好像该json文件中确实没有 'hidden_size', 'num_hidden_layers', 'num_attention_heads', 'intrmediate_size', and 'hidden_act'这样几个参数

Tongjilibo commented 2 years ago

readme里面应该写base版本的config

weiiWill commented 2 years ago

将config改为如上所示，然后t5用的是uer/t5-base-chinese-cluecorpussmall，但是还会报如下错误：

Tongjilibo commented 2 years ago

看错误是下标越界，猜测你看下vocab.txt最后是不是有两个换行，如果是你保留一个换行就可以了

weiiWill commented 2 years ago

Owner 多谢，解决了！！

XuJianzhi commented 2 years ago

看错误是下标越界，猜测你看下vocab.txt最后是不是有两个换行，如果是你保留一个换行就可以了

这咋看出的？太神了吧

Tongjilibo commented 2 years ago

看错误是下标越界，猜测你看下vocab.txt最后是不是有两个换行，如果是你保留一个换行就可以了

这咋看出的？太神了吧

以前也遇到过