MNBVC(Massive Never-ending BT Vast Chinese corpus)超大规模中文语料集。对标chatGPT训练的40T数据。MNBVC数据集不但包括主流文化,也包括各个小众文化甚至火星文的数据。MNBVC数据集包括新闻、作文、小说、书籍、杂志、论文、台词、帖子、wiki、古诗、歌词、商品介绍、笑话、糗事、聊天记录等一切形式的纯文本中文数据。
3.49k
stars
246
forks
source link
可以对数据集做二次加工后再开源吗 #52
Closed
charent closed 9 months ago
开源后会标注原始数据集来源可以做二次加工吗?可能只加工一小部分,主要担心版权问题。