LLM-Red-Team / qwen-free-api

🚀 阿里通义千问2.5大模型逆向API白嫖测试【特长:六边形战士】,支持高速流式输出、无水印AI绘图、长文档解读、图像解析、多轮对话,零配置部署,多路token支持,自动清理会话痕迹。
https://udify.app/chat/qOXzVl5kkvhQXM8r
GNU General Public License v3.0
552 stars 154 forks source link

关于多轮会话的问题,关于体验原生多轮会话问题 #44

Closed dpengchen closed 3 weeks ago

dpengchen commented 3 weeks ago

关于多轮会话的问题,关于体验原生多轮会话;

我查看代码之后,发现每次对话之后都会删除这个会话;我想作者可能在考虑的是多个 authority token 会话太多的问题;所以每次询问完了之后就删除对话;

对于单个人的token来说的话,又不能体验到原生的多轮会话

image

但是wo我觉得奇怪的是为什么 不用 SSE 流的话不会删除?

都同样调用了这个函数

Vinlic commented 3 weeks ago

原生多轮也提供支持,可以参考文档,只是使用原生多轮的时候不会移除会话,因为移除后就无法进行下一轮了 如果用默认的上下轮合并多轮,就会每次都移除,为了避免会话堆积过多

dpengchen commented 3 weeks ago

image 我是这样发送的请求,然后得到的响应后续再次携带返回的ID去的时候已经说会话没有了; 能给个示例吗?

stan5215 commented 3 weeks ago

image 我也遇到了这个问题,"stream":true就会出现,"stream":false的时候多轮会话是正常的。

dpengchen commented 3 weeks ago

image 我也遇到了这个问题,"stream":true就会出现,"stream":false的时候多轮会话是正常的。

你可以更改一下他的源代码,在chat.ts中注释掉一行就可以避免这个问题了,但是要自己手动去官网删除记录,或者自己再写一个api

stan5215 commented 3 weeks ago

image 我也遇到了这个问题,"stream":true就会出现,"stream":false的时候多轮会话是正常的。

你可以更改一下他的源代码,在chat.ts中注释掉一行就可以避免这个问题了,但是要自己手动去官网删除记录,或者自己再写一个api

谢谢,我也很奇怪为什么非流式接口不会删除会话,看来要跑代码才知道了