search

wangyuxinwhy / uniem

unified embedding model
Apache License 2.0
814 stars 61 forks source link

能否支持tensor并行训练，或者使用deepspeed呢？ #91

Open programmer-ming opened 1 year ago

programmer-ming commented 1 year ago

🚀 The feature

能否支持tensor并行训练，或者使用deepspeed呢？

wangyuxinwhy commented 1 year ago

使用 fairscale 能实现，但目前没有确切的支持计划。