-
**问题描述 / Problem Description**
知识库问答突然会出现这个问题,然后没有回答
**复现问题的步骤 / Steps to Reproduce**
任意知识库问答,问到较为复杂的问题会出现
**预期的结果 / Expected Result**
如果不会回答,会反馈没有合适的信息,而不是出错
**实际结果 / Actual Result**
ut…
-
### 是否已有关于该错误的issue或讨论? | Is there an existing issue / discussion for this?
- [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions
### 该问题是否在FAQ中有解答? | Is there an existing…
-
### Reminder
- [x] I have read the README and searched the existing issues.
### Reproduction
accelerate launch src/train_bash.py \
--stage sft \
--model_name_or_path ../chatglm3-6b \
…
-
**问题描述 / Problem Description**
用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.
知识库文件上传的文件,添加至向量库时发生
V12.2.docx 大小约36MB
[dosubot](https://github.com/apps/dosubot)的回答时文档…
-
**问题描述 / Problem Description**
用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.
**复现问题的步骤 / Steps to Reproduce**
1. 执行 '...' / Run '...'
2. 点击 '...' / Click '...'
3. 滚动到 '..…
-
**问题描述 / Problem Description**
requirement.txt中jwt依赖错误导致zhipu-api无法使用,使用jwt库会出现 module 'jwt' has no attribute 'encode 错误
应该使用pyjwt包,pyjwt>=2.8.0
**复现问题的步骤 / Steps to Reproduce**
1. 执行 '...' / Ru…
-
**问题描述 / Problem Description**
用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.
**复现问题的步骤 / Steps to Reproduce**
1. 执行 '...' / Run '...'
2. 点击 '...' / Click '...'
3. 滚动到 '..…
-
Trying to use bigdl LLM serving for model qwen 7b following the [doc](https://github.com/intel-analytics/BigDL/tree/main/python/llm/src/bigdl/llm/serving).
1. Modify the model name from **Qwen-7B-Ch…
-
当前使用的分词器:ChineseRecursiveTextSplitter
当前启动的LLM模型:['chatglm2-6b-int4'] @ cuda
{'device': 'cuda',
'host': '127.0.0.1',
'infer_turbo': False,
'model_path': 'F:\\LANG_CHATCHAT\\models\\THUDM\\chat…
-
**问题描述 / Problem Description**
用简洁明了的语言描述这个问题 / Describe the problem in a clear and concise manner.
[BUG]显存使用率不平均(显存使用率40%和60%),推理过程中GPU负载也不平均(分别为35%和59%)
尝试通过device map映射方式,通过设置device_map参数(例如"a…