Deeptrain-Community / chatnio

🚀 Next Generation AI One-Stop Internationalization Solution. 🚀 下一代 AI 一站式 B/C 端解决方案,支持 OpenAI,Midjourney,Claude,讯飞星火,Stable Diffusion,DALL·E,ChatGLM,通义千问,腾讯混元,360 智脑,百川 AI,火山方舟,新必应,Gemini,Moonshot 等模型,支持对话分享,自定义预设,云端同步,模型市场,支持弹性计费和订阅计划模式,支持图片解析,支持联网搜索,支持模型缓存,丰富美观的后台管理与仪表盘数据统计。
https://chatnio.com
Apache License 2.0
2.71k stars 446 forks source link

[Bug] 在未请求成功阶段无法暂停问题 #181

Closed dqzboy closed 1 week ago

dqzboy commented 2 months ago

在页面点击暂停回答没有任何反应,程序日志显示其实已经超时了,但是还是一直在转圈还不能暂停,如图 PixPin_2024-05-05_12-27-01

zmh-program commented 1 month ago

这是因为 manager/chat 实现方法暂停其实是在流式响应的中途通过同步阻塞实现的,所以在请求发起之前会一直阻塞,不会处理stop signal,此时暂停是有问题的,后期我打算将其独立于一个goroutine中以快速暂停响应。

dqzboy commented 1 month ago

强👍

zmh-program commented 1 week ago

feat: better stop signal 商业版已率先修复,Waiting for @Sh1n3zZ 下放开源版

todo: https://github.com/Deeptrain-Community/chatnio-pro/commit/bdab26f989b10322ba2a74392e52760634c0e674

Sh1n3zZ commented 1 week ago

Hi,

Done.

Junhai Deng