-
**Description**
I deployed a vllm backend model using Triton. After using http generate endpoint to continuously request for a period of time, the service became unresponsive.
**Triton Information…
-
**问题描述 / Problem Description**
自己构建了一个自定义的model_workers,使用LLM对话一切正常,但是使用知识库问答就会报如下错误:
**复现问题的步骤 / Steps to Reproduce**
1. 执行 '...' / Run '...'
2. 点击 '...' / Click '...'
3. 滚动到 '...' / Scroll …
-
**问题描述 / Problem Description**
知识库召回文本最大字数好像设置不了,我尝试修改了kb_config中的CHUNK_SIZE = 500,并没有生效,在搜索知识库时和设置CHUNK_SIZE = 250 一样,召回的文本怎么也超不过250字,但是我在chinese_recursive_text_splitter.py文件中测试了,当设置chunk_size是可以按照我…
-
**问题描述 / Problem Description**
在conda env 中 python=3.9 执行``pip langchain``后
执行下述代码,报出错误
``loader = UnstructuredWordDocumentLoader("***.docx",mode="elements")``
``documents = loader.load()``
[nl…
-
**问题描述 / Problem Description**
用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.
**复现问题的步骤 / Steps to Reproduce**
1. 执行 python init_database.py --recreate-vs(之前完全按照说明步骤进行操作,只修改…
-
如题,谢谢!
-
**问题描述 / Problem Description**
按照“快速上手”部分,安装chatchat后,使用zhipuai模型时,报错`openai.InternalServerError: Internal Server Error`。
**复现问题的步骤 / Steps to Reproduce**
1. 新建一个conda环境
2. 使用`pip install la…
-
**问题描述 / Problem Description**
处理txt文档解析报错,导致向量化失败,完整错误日志
ERROR: ParserError: 从文件 /Langchain-Chatchat-0.2.8/knowledge_base/1111/content/text.txt 加载文档时出错:Error tokenizing data. C error: Expected 13 f…
-
**问题描述 / Problem Description**
用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.
docker 启动,挂载出现问题
**复现问题的步骤 / Steps to Reproduce**
1. 执行
```shell
docker run -d --gpus al…
-
### Reminder
- [X] I have read the README and searched the existing issues.
### Reproduction
可以问两个比较基础的问题吗?
1. 预训练正常是选择default,或者是alpaca, vicuna,然后在推理的时候做相应的适配吗?如我想要对baichuan
在情感的数据集上做进一步的预训练
2.…