akaza-im / akaza-default-model

Default model data repository of the Akaza IM
MIT License
2 stars 1 forks source link

anthy-corpus/corpus.4.txt の取り扱いについて #9

Closed tkng closed 1 year ago

tkng commented 1 year ago

https://github.com/akaza-im/akaza-default-model/blob/main/anthy-corpus/corpus.4.txt

このファイルは誤変換が含まれているものなので、評価には使うべきではありません。 ただ、このファイルだけリポジトリから削除すると謎の欠番が残りますし、どう扱うのがベストなのかはよくわかりません…。

tokuhirom commented 1 year ago

おっと。誤変換のファイルを評価用に使ってはダメですね。。 無視するように設定します

tokuhirom commented 1 year ago

抜け番があると変なので、評価時に無視するようにしました