baichuan-inc / Baichuan2

A series of large language models developed by Baichuan Intelligent Technology
https://huggingface.co/baichuan-inc
Apache License 2.0
4.03k stars 289 forks source link

求教:模型输出结果不完整问题。 #327

Open empty2enrich opened 6 months ago

empty2enrich commented 6 months ago

在历史对话数据,字符串长度 1k 左右时,输出只有一部分,不要历史数据,能正常输出完整结果。

输入: ...(history) 用户问题:讲两个笑话

回答(输入带历史对话内容):

好的,让我给您讲两个笑话:

回答(输入不带历史对话内容):

当然可以!以下是两个简单的笑话供您欣赏:

1. 为什么电脑经常生病?因为它的窗户(Windows)总是开着!

2. 为什么海洋里从来不说谎?因为它们总是海诚(诚实)相待!", "status": "200", "sender": "user12"}
当然可以!以下是两个简单的笑话供您欣赏:

1. 为什么电脑经常生病?因为它的窗户(Windows)总是开着!

2. 为什么海洋里从来不说谎?因为它们总是海诚(诚实)相待!
baichuan-assistant commented 6 months ago

config里的参数用的是默认的吗?可以给具体的例子吗

empty2enrich commented 6 months ago

config里的参数用的是默认的吗?可以给具体的例子吗

使用的 baichuan2 默认配置

hjandlm commented 5 months ago

遇到同样的问题,输出一半就不输出了,参数是默认的,而且输出偏向于较短的回复。