使用cogvlm2模型出现报错object has no attribute '{name}‘

labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.

https://tryfastgpt.ai

Other

17.46k stars 4.69k forks source link

使用cogvlm2模型出现报错object has no attribute '{name}‘ #1732

Closed xiaoToby closed 2 months ago

xiaoToby commented 4 months ago

例行检查

[ ] 我已确认目前没有类似 issue
[ ] 我已完整查看过项目 README，以及项目文档
[ ] 我使用了自己的 key，并确认我的 key 是可正常使用的
[ ] 我理解并愿意跟进此 issue，协助测试和提供反馈
[x] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

你的版本 v4.8

[ ] 公有云版本
[ ] 私有部署版本, 具体版本号:

问题描述, 日志截图

使用oneapi测试这个接口，也是出现同样的问题感觉问题是出现在，fastgpt给接口传的数据中，TextContent中的name=None @c121914yu @nongmo677 @lijiajun1997 复现步骤

预期结果

相关截图

lijiajun1997 commented 4 months ago

vision功能需要转成openai api的格式

xiaoToby commented 4 months ago

我使用的cogvlm给的openai api（https://github.com/THUDM/CogVLM2/blob/main/basic_demo/openai_api_demo.py）

c121914yu commented 4 months ago

我使用的cogvlm给的openai api（https://github.com/THUDM/CogVLM2/blob/main/basic_demo/openai_api_demo.py）

oneapi 不行，fastgpt 肯定也不行。。少发的话，其他模型肯定也不通～不用怀疑，肯定是这个接口有问题。

xiaoToby commented 4 months ago

我使用的cogvlm给的openai api（https://github.com/THUDM/CogVLM2/blob/main/basic_demo/openai_api_demo.py）

oneapi 不行，fastgpt 肯定也不行。。少发的话，其他模型肯定也不通～不用怀疑，肯定是这个接口有问题。

是这个openai_api_demo.py它支持的是cogvlm2-llama3-chinese-chat-19B模型，没有支持他们新发布的glm-4v-9b 后面能在fastgpt中使用这个多模态模型