PKU-YuanGroup / MoE-LLaVA

Mixture-of-Experts for Large Vision-Language Models
https://arxiv.org/abs/2401.15947
Apache License 2.0
1.9k stars 121 forks source link

[Feature request] 是否會訓練更進一步的模型 #86

Open gesen2egee opened 1 month ago

gesen2egee commented 1 month ago

feature

很喜歡moe的資料集的敘述風格打標訓練的效果 是否後續還會想用更好的模型 (phi3、llava1.6、qwen2...) 繼續開放更好的版本呢?