search

sugarforever / chat-ollama

ChatOllama is an open source chatbot based on LLMs. It supports a wide range of language models, and knowledge base management.
MIT License
2.61k stars 410 forks source link

RAG会话不能自行终止 #354

Open meokey opened 5 months ago

meokey commented 5 months ago

我记得有人提过这个bug，最后解决方案是加了个Stop按钮。 我最近也出现这样的问题。以下是我的发现：

感觉像是rerank后，reranking已经传到了LLM并且会话继续进行了，但是前端并没有收到reranking的结果，所以一直在等。

而且还有个好玩的事情，我明明用的是Claude的模型，但是log信息总是显示Ollama： Ollama: { host: 'http://127.0.0.1:11434', username: null, password: null } 这会不会是这个bug的由来？

kerrzhao commented 3 months ago
image

请问用openai 也没有自动stop 是什么原因？ @satrong

而且还有个问题就是 同样一个问题，有时答案也只回答了一半

satrong commented 3 months ago

Stop 按钮是需要手动点击的，难道你点这个按钮没反应？