调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len()

chatchat-space / Langchain-Chatchat

Langchain-Chatchat（原Langchain-ChatGLM, Qwen 与 Llama 等）基于 Langchain 与 ChatGLM 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain

Apache License 2.0

29.69k stars 5.2k forks source link

调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len() #2062

Closed 61-113 closed 7 months ago

61-113 commented 7 months ago

问题描述 / Problem Description 1、调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len()； 2、来回切换模型报错streamlit.errors.DuplicateWidgetID: There are multiple widgets with the same key=''.

复现问题的步骤 / Steps to Reproduce 1、在本地试了多个在线模型，配置了正确key（可以确保正确，使用官方demo都能正常对话），只有xinghuo-api可正常对话，其他的比如zhipu-api和qwen-api对话后都报错： utils.py[line:25] - ERROR: TypeError: Caught exception: object of type 'NoneType' has no len()

2、来回切换在线模型后对话，抛出错误：

预期的结果 / Expected Result 正常对话

实际结果 / Actual Result

环境信息 / Environment Information

langchain-ChatGLM 版本/commit 号：v0.2.7
是否使用 Docker 部署（是/否）：否
使用的模型（ChatGLM2-6B / Qwen-7B 等）：xinghuo-api / zhipu-api / qwen-api
使用的 Embedding 模型（moka-ai/m3e-base 等）： moka-ai/m3e-base
使用的向量库类型 (faiss / milvus / pg_vector 等)： faiss
操作系统及版本 / Operating system and version: Ubuntu
Python 版本 / Python version: python3.10
其他相关环境信息 / Other relevant environment information:

附加信息 / Additional Information 添加与问题相关的任何其他信息 / Add any other information related to the issue.

amusir commented 7 months ago

我也是相关错误，可以看#2051

amusir commented 7 months ago

我也是相关错误，可以看#2051

你的第二个问题我也遇到过几次

61-113 commented 7 months ago

qwen-api修复： 1、修改model_workers/qwen.py文件，把import dashscope移到外面来，这时在启动会报错： ModuleNotFoundError: No module named 'dashscope' 直接安装即可：pip install dashscope 避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。

2、修改端口，与configs/server_config.py中保持一致：

61-113 commented 7 months ago

zhipu-api修复方法，同上面qwen-api： 1、修改model_workers/zhipu.py文件，把import zhipuai移到外面来，这时在启动会报错： ModuleNotFoundError: No module named 'zhipuai' 直接安装即可：pip install zhipuai 避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。

61-113 commented 7 months ago

问题描述 / Problem Description 1、调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len()； 2、来回切换模型报错streamlit.errors.DuplicateWidgetID: There are multiple widgets with the same key=''.

复现问题的步骤 / Steps to Reproduce 1、在本地试了多个在线模型，配置了正确key（可以确保正确，使用官方demo都能正常对话），只有xinghuo-api可正常对话，其他的比如zhipu-api和qwen-api对话后都报错： utils.py[line:25] - ERROR: TypeError: Caught exception: object of type 'NoneType' has no len()

2、来回切换在线模型后对话，抛出错误：

预期的结果 / Expected Result 正常对话

实际结果 / Actual Result

环境信息 / Environment Information

langchain-ChatGLM 版本/commit 号：v0.2.7

是否使用 Docker 部署（是/否）：否

使用的模型（ChatGLM2-6B / Qwen-7B 等）：xinghuo-api / zhipu-api / qwen-api

使用的 Embedding 模型（moka-ai/m3e-base 等）： moka-ai/m3e-base

使用的向量库类型 (faiss / milvus / pg_vector 等)： faiss

操作系统及版本 / Operating system and version: Ubuntu

Python 版本 / Python version: python3.10

其他相关环境信息 / Other relevant environment information:

附加信息 / Additional Information 添加与问题相关的任何其他信息 / Add any other information related to the issue.

当每个模型对话都正常时，来回切换模型在对话就没有报错了，即第2个问题也不存在了

Leweibo commented 7 months ago

问题解决了吗？怎么Closed了？

61-113 commented 7 months ago

问题解决了吗？怎么Closed了？

按照上面的方法来，试了可以正常用

zdhmd5 commented 7 months ago

我在本地使用的chatglm2-6b，也有相同的问题。

GAllllong commented 7 months ago

追问一下，调用千帆api在线模型遇到TypeError: Caught exception: object of type 'NoneType' has no len()，应该如何解决呀，使用的是chatchat027版本

61-113 commented 7 months ago

追问一下，调用千帆api在线模型遇到TypeError: Caught exception: object of type 'NoneType' has no len()，应该如何解决呀，使用的是chatchat027版本

千帆的我没试过，但是解决思路类似，你把下面这一行放到外面来，然后安装一下这个模块，重启一下在看看

GAllllong commented 7 months ago

@61-113 谢谢您，这边已经调通了，chatchat027版本貌似需要安装qianfan==0.1.0，就可以了，之前我的依赖库不兼容。

JustDoItToo commented 6 months ago

@61-113 我按照这个方法修改了，还是会报这个错，请问还可能是什么原因导致的呀？我这边智谱的没问题，千问和百川的会报这个错误

qwen-api修复： 1、修改model_workers/qwen.py文件，把import dashscope移到外面来，这时在启动会报错： ModuleNotFoundError: No module named 'dashscope' 直接安装即可：pip install dashscope 避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。

2、修改端口，与configs/server_config.py中保持一致：

supersoulsoul commented 6 months ago

@61-113 我按照这个方法修改了，还是会报这个错，请问还可能是什么原因导致的呀？我这边智谱的没问题，千问和百川的会报这个错误

qwen-api修复： 1、修改model_workers/qwen.py文件，把import dashscope移到外面来，这时在启动会报错： ModuleNotFoundError: No module named 'dashscope' 直接安装即可：pip install dashscope 避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。 2、修改端口，与configs/server_config.py中保持一致：

请问你这个问题解决了吗？我遇到同样的问题，是0.2.6版本的。