chatchat-space / Langchain-Chatchat

Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain
Apache License 2.0
31.79k stars 5.55k forks source link

[BUG] 简洁阐述问题 / 向量库 samples 加载失败 #4996

Open yangtengze opened 3 weeks ago

yangtengze commented 3 weeks ago

问题描述 / Problem Description 向量库 samples 加载失败 复现问题的步骤 / Steps to Reproduce

  1. 在xinference启动language model: glm4-chat image
  2. 在xinference启动embedding model: bge-large-zh-v1.5 image
  3. 执行命令'chatchat init'
  4. 修改model_settings.yaml: image
  5. 执行chatchat kb -r:问题出现: 微信图片_20241008210029 预期的结果 / Expected Result 屏幕截图 2024-10-08 210142 实际结果 / Actual Result 微信图片_20241008210029

环境信息 / Environment Information

guanxiaoguan commented 1 week ago

解决了吗?

ruthy-wei commented 6 days ago

我也遇到类似的问题,你可以检查下面是不是存在问题: 1.检查一下one-api的ip、端口、令牌有错误没有; 2.你自己在one-api的渠道试试glm4-chat模型和向量模型bge-large-zh-v1.5是不是通的; 或者你自己在写个代码调用一下one-api的glm4-chat和bge-large-zh-v1.5是不是可以正常访问 如果上述都不存在问题,这一步就可以正常运行了

yangtengze commented 5 days ago

解决了吗? 刚发完issue没多久就解决了。忘记在这里提了

yangtengze commented 5 days ago

大家好,这里一定记得先在框架上启动完各类模型,然后再chatchat init。这样出错率会很小。 然后这里只需改一个model-setting.yaml里的这里就行了 image

然后再进行chatchat kb -r,