chatchat-space / Langchain-Chatchat

Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain
Apache License 2.0
32.07k stars 5.58k forks source link

[BUG] 使用xinference框架调用Agent出现问题,使用ollama则不会 #4956

Closed southkorea2013 closed 1 week ago

southkorea2013 commented 2 months ago

问题描述 / Problem Description 用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.

复现问题的步骤 / Steps to Reproduce

预期的结果 / Expected Result 正常输出指定城市的天气情况

实际结果 / Actual Result ERROR | chatchat.server.utils:wrap_done:46 - IndexError: Caught exception: list index out of range

Ollama执行的结果:

image

Xinference执行结果:

image

2024-09-18 15:59:10,053 httpx 32993 INFO HTTP Request: POST http://127.0.0.1:9997/v1/chat/completions "HTTP/1.1 200 OK"

Thought: The user wants to know the current weather in Shenzhen. I will use the amap_weather tool to get this information.

Action:


{
  "action": "amap_weather",
  "action_input": {
    "city": "Shenzhen"
  }
}
```2024-09-18 15:59:13.460 | ERROR    | chatchat.server.utils:wrap_done:46 - IndexError: Caught exception: list index out of range

**环境信息 / Environment Information**
- Langchain-Chatchat 版本 / commit 号:(例如:0.3.1 或 commit 123456) / Langchain-Chatchat version / commit number: (e.g., 0.3.1 or commit 123456)
- 部署方式(pypi 安装 / 源码部署 / docker 部署):pypi 安装 
- 使用的模型推理框架(Xinference / Ollama / OpenAI API 等):Xinference /
- 使用的 LLM 模型(GLM-4-9B / Qwen2-7B-Instruct 等):GLM-4-9B / Qwen2-7B-Instruct
- 使用的 Embedding 模型(bge-large-zh-v1.5 / m3e-base 等):bge-large-zh-v1.5 
- 使用的向量库类型 (faiss / milvus / pg_vector 等): faiss / Vector library used (faiss, milvus, pg_vector, etc.): faiss
- 操作系统及版本 / Operating system and version: MacOS
- Python 版本 / Python version: 3.11
- 推理使用的硬件(GPU / CPU / MPS / NPU 等) / Inference hardware (GPU / CPU / MPS / NPU, etc.): GPU 
- 其他相关环境信息 / Other relevant environment information:

**附加信息 / Additional Information**
添加与问题相关的任何其他信息 / Add any other information related to the issue.
948024326 commented 1 month ago

像是 提取参数导致不匹配导致的问题 建议debug看下

github-actions[bot] commented 3 weeks ago

这个问题已经被标记为 stale ,因为它已经超过 30 天没有任何活动。

github-actions[bot] commented 1 week ago

这个问题已经被自动关闭,因为它被标为 stale 后超过 14 天没有任何活动。