IlyaGusev / rulm

Language modeling and instruction tuning for Russian
Apache License 2.0
455 stars 50 forks source link

Mistral 7B - лучше в русском чем saiga2_7b #30

Closed NeuralAIM closed 1 year ago

NeuralAIM commented 1 year ago

Похоже есть хороший кандидат к #26

На удивление гораздо меньше орфографических ошибок. Достаточно хорошо ведет диалог на русском.

Хотелось бы увидеть эту модель дообученую на данных saiga.

Можно проверить Здесь

Ссылка на модель

IlyaGusev commented 1 year ago

Сделано!

https://huggingface.co/IlyaGusev/saiga_mistral_7b_lora