stockmarkteam / bert-book

「BERTによる自然言語処理入門: Transformersを使った実践プログラミング」サポートページ
MIT License
257 stars 80 forks source link

第8章 BERTjapaneseTokenizer以外を使う場合について #54

Open abebe9849 opened 1 year ago

abebe9849 commented 1 year ago

NER_tokenizer_BIOをmLUKETokenizerやT5Tokenizerを使った日本語言語モデルでも使用したいと思っているのですが、うまく言っていません。どうすれば適切に修正、使用ができるのでしょうか?

お忙しいところ恐縮ですがご教授いただけると幸甚です。