laekov / fastmoe

A fast MoE impl for PyTorch
https://fastmoe.ai
Apache License 2.0
1.56k stars 188 forks source link

prep_text8.py没有该脚本 #190

Closed PowerDispatch closed 9 months ago

PowerDispatch commented 9 months ago

没有该脚本

image

laekov commented 9 months ago

这部分代码来源于 transformer-xl. 由于我们只使用了该仓库中的 enwiki8 作为示例, 故没有对其它模块进行支持. 如需使用, 您可以参考其原仓库.