visualglm是否支持batch 预测？

THUDM / VisualGLM-6B

Chinese and English multimodal conversational language model | 多模态中英双语对话语言模型

Apache License 2.0

4.07k stars 414 forks source link

Open zhaodongh opened 10 months ago

zhaodongh commented 10 months ago

chatglm可以通过evaluate.sh进行批量预测，visualglm是否也可以，有样例代码吗

zhaodongh commented 10 months ago

大佬求回复

1049451037 commented 10 months ago

理论上是可行的，但是没有实现

zhaodongh commented 10 months ago

预计什么时候实现