search

yuanzhoulvpi2017 / zero_nlp

中文nlp解决方案(大模型、数据、模型、训练、推理)
MIT License
2.85k stars 355 forks source link

gpt预训练 #93

Closed Clearloveplus7 closed 1 year ago

Clearloveplus7 commented 1 year ago

这边的gpt是指无监督的训练嘛

yuanzhoulvpi2017 commented 1 year ago

是的

yuanzhoulvpi2017 commented 1 year ago

虽然是无监督，但是本质上都是使用的自回归方法，还是有监督的