search

esbatmop / MNBVC

MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集。对标chatGPT训练的40T数据。MNBVC数据集不但包括主流文化，也包括各个小众文化甚至火星文的数据。MNBVC数据集包括新闻、作文、小说、书籍、杂志、论文、台词、帖子、wiki、古诗、歌词、商品介绍、笑话、糗事、聊天记录等一切形式的纯文本中文数据。
MIT License
3.49k stars 246 forks source link

数据清洗工具 #23

Closed guozhiyao closed 1 year ago

guozhiyao commented 1 year ago

请问下，是否打算开源数据清洗工具？比如低质量文本检测之类的。

esbatmop commented 1 year ago

关闭同样的问题 https://github.com/esbatmop/MNBVC/issues/22