THUDM / GLM-4

GLM-4 series: Open Multilingual Multimodal Chat LMs | 开源多语言多模态对话模型
Apache License 2.0
5.28k stars 435 forks source link

glm4v 对于纯文本微调的支持 #489

Closed Jintao-Huang closed 2 months ago

Jintao-Huang commented 3 months ago

哈咯!glm4v是一个非常优秀的多模态大模型

请问可以支持一下纯文本的微调吗

相关issue:https://github.com/modelscope/ms-swift/issues/1712

skywalkerfmc commented 3 months ago

+1

sixsixcoder commented 2 months ago

目前还不支持,后续可能考虑支持,如果微调纯文本建议使用GLM-4-9B、GLM-4-9B-Chat、GLM-4-9B-Chat-1M