labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.
https://tryfastgpt.ai
Other
17.48k stars 4.69k forks source link

多轮问答后,容易乱码 #1614

Closed stevenchen0018 closed 4 months ago

stevenchen0018 commented 4 months ago

例行检查

你的版本

FastGPT V4.8.1 gpt-4o-2024-05-13

问题描述, 日志截图 主要问题就是gpt-4o 多轮对话后,回复容易出现大量中文乱码,所以想问下这事什么原因?

复现步骤

预期结果

相关截图

image
lijiajun1997 commented 4 months ago

api渠道问题,以及建议把模型token上限限制在32k,我几百轮对话没有遇到类似的问题。

stevenchen0018 commented 4 months ago

api渠道问题,以及建议把模型token上限限制在32k,我几百轮对话没有遇到类似的问题。

api 都是官方openai和这个渠道有什么关系?不是很理解这个意思?前几轮对话都没问题,多几轮就开始出现乱码,而且就是gpt-4o 这个版本会现

c121914yu commented 4 months ago

模型问题或者渠道问题。 不是官方直连渠道,可能有浑水摸鱼。 或者温度设置太高。 上面配置都正常的话,就是模型问题了。*(虽然我也没遇到过)