search

labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.
https://fastgpt.in
Other
15.58k stars 4.09k forks source link

回答不完整，好像被限制字数 #1949

Closed zenmic7 closed 1 week ago

zenmic7 commented 1 week ago

例行检查

你的版本

问题描述, 日志截图 同样的配置，知识库放单个文件测试，能完整问题，索引文件多时，回答问题不完整，只回答一部分就戛然而止，更换索引模型也不能解决问题。 复现步骤

预期结果

相关截图 STIIITCH_2024_07_04_06_35_47 IMG_0761

c121914yu commented 1 week ago

模型max token 上限了，可以考虑把最大上下文设置小点，预留足够的空间给回复。例如：32k 模型，最大上下文设置 28k 即可

zenmic7 commented 1 week ago

模型max token 上限了，可以考虑把最大上下文设置小点，预留足够的空间给回复。例如：32k 模型，最大上下文设置 28k 即可

谢谢，是不是需要我把索引模型的max token设大点，我的聊天模型需要改啥吗？麻烦指点一下，感谢🙏 IMG_0762