Open yangtengze opened 3 weeks ago
解决了吗?
我也遇到类似的问题,你可以检查下面是不是存在问题: 1.检查一下one-api的ip、端口、令牌有错误没有; 2.你自己在one-api的渠道试试glm4-chat模型和向量模型bge-large-zh-v1.5是不是通的; 或者你自己在写个代码调用一下one-api的glm4-chat和bge-large-zh-v1.5是不是可以正常访问 如果上述都不存在问题,这一步就可以正常运行了
解决了吗? 刚发完issue没多久就解决了。忘记在这里提了
大家好,这里一定记得先在框架上启动完各类模型,然后再chatchat init。这样出错率会很小。 然后这里只需改一个model-setting.yaml里的这里就行了
然后再进行chatchat kb -r,
问题描述 / Problem Description 向量库 samples 加载失败 复现问题的步骤 / Steps to Reproduce
环境信息 / Environment Information
Langchain-Chatchat 版本: 0.3.1.3 / Langchain-Chatchat version: 0.3.1.3
部署方式:pypi 安装 / Deployment method : pypi installation
使用的模型推理框架:Xinference / Model serve method : Xinference
使用的 LLM 模型:glm4-chat / LLM used : glm4-chat
使用的 Embedding 模型:bge-large-zh-v1.5 / Embedding model used: bge-large-zh-v1.5
使用的向量库类型 : faiss / Vector library used : faiss
操作系统及版本 / Operating system and version:
Python 版本 / Python version: 3.10.15
推理使用的硬件 / Inference hardware: GPU