multimodal-art-projection / MAP-NEO

877 stars 81 forks source link

能否提供下数据转bin 文件和各个阶段的训练脚本? #19

Closed canghaiyunfan closed 5 months ago

canghaiyunfan commented 5 months ago

感谢作者开源数据和代码,目前开源内容没法复现,请问是否可以开源数据转bin以及各个阶段的训练脚本

xingweiqu commented 5 months ago

可以看一下,Megatron-LM-NEO, 里面follow megatron的方法,先做preprocess,然后 训练脚本也可以看见都在neo里面