THUDM / CogVLM

a state-of-the-art-level open visual language model | 多模态预训练模型
Apache License 2.0
6.12k stars 417 forks source link

vllm适配 #502

Open weiminw opened 5 months ago

weiminw commented 5 months ago

Feature request / 功能建议

是否能支持vllm的适配?

Motivation / 动机

是否能支持vllm的适配?

Your contribution / 您的贡献

是否能支持vllm的适配?

elesun2018 commented 2 months ago

请问CogVLM)是否能支持vllm的适配?

elesun2018 commented 1 month ago

请问现在是否支持vllm加速 如何才能支持VLLM加速,谢谢 sss