search

THUDM / CogVLM2

GPT4V-level open-source multi-modal model based on Llama3-8B
Apache License 2.0
2.02k stars 134 forks source link

提供 cogvlm2-llama3-chat-19B-Int4 的微调代码 #87

Closed aqingcv closed 3 months ago

aqingcv commented 3 months ago

Feature request / 功能建议

请问能提供 huggingface 版本模型 cogvlm2-llama3-chat-19B-Int4 的微调代码吗

Motivation / 动机

无

Your contribution / 您的贡献

无

zRzRzRzRzRzRzR commented 3 months ago

理论可以，但是实际性能表现不佳。推荐使用BF16进行微调 目前，我们没有提供hf上 int4微调的办法的相关计划。 感谢您的支持