这个模型可以部署在本地服务器吗？以api的方式别人调用，可以的话大概需要什么配置才行啊

THUDM / CogVLM2

GPT4V-level open-source multi-modal model based on Llama3-8B

Apache License 2.0

1.42k stars 77 forks source link

Closed yangtao-git closed 4 days ago

yangtao-git commented 1 week ago

这个模型可以部署在本地服务器吗？以api的方式别人调用，可以的话大概需要什么配置才行啊

zRzRzRzRzRzRzR commented 1 week ago

可以，相关硬件请查看我们的readme中的配置要求，整个仓库都没有考虑并发的调度，需要自己优化