怎么中断聊天

[BoFan-tunning]

我发现界面里中断了，但是后台llm还在继续，未实现中断，相当于还在耗费显存

[cryscan]

直接断掉链接即可。即使推理结束，state还会存在在内存里以备用，但是有一定上限。