search

LC1332 / Chat-Haruhi-Suzumiya

Chat凉宫春日, An open sourced Role-Playing chatbot Cheng Li, Ziang Leng, and others.
Apache License 2.0
1.85k stars 164 forks source link

多轮对话后对话陷入死循环 #37

Open pihang opened 1 year ago

pihang commented 1 year ago

模型对话突然无论问什么，后面一直回答同一个答案，无法纠正，这个要怎么改进？（感觉是因为history延长后，后面一直反复这个记录，成了死循环模型就不能正常chat了）

LC1332 commented 1 year ago

好问题

你可以调用ChatHaruhi.llm.print_prompt()方法把prompt给我看一下嘛。

挺有价值的讨论。

另外现在ChatHaruhi2.0默认temp=0.7照理说他自己应该能跳出去。

pihang commented 1 year ago

好问题

你可以调用ChatHaruhi.llm.print_prompt()方法把prompt给我看一下嘛。

挺有价值的讨论。

另外现在ChatHaruhi2.0默认temp=0.7照理说他自己应该能跳出去。

image 我用的本地模型，最后就是历史记录，有时候对话长了后就会出问题。现在就写了个简单的判断，如果重复了就删除相应历史对话。

LC1332 commented 1 year ago

我有空的时候看一下 对的 想办法后处理去除也可以。本地模型似乎就是很容易重复QAQ不知道是不是模型本身原因

MoidzzZ commented 1 year ago

我在用ChatHaruhi2.0，我在使用ChatGLM2的过程中好像遇到了相同的问题，在较长的时间后他输出了如下的回答 image

MoidzzZ commented 1 year ago

@LC1332 以及在中间某次对话中出现了不妙的情况，这好像超出了对话场景 image 最后，我在循环后尝试继续对话，有如下报错 image