search

chatchat-space / Langchain-Chatchat

Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain
Apache License 2.0
32.07k stars 5.58k forks source link

请问如何在0.3.1.3版本中设置使用reranker模型 #4941

Open southkorea2013 opened 2 months ago

southkorea2013 commented 2 months ago

你好，

已经在Xinference中启动了reranker的模型，在RAG对话时查看chatchat的log看起来没有调用reranker模型。

谢谢！

948024326 commented 1 month ago

需要打开rerank部分的代码，参考kb_chat.py的这部分代码 image

tf18536 commented 1 month ago

还要自己写一个 LangchainReranker类和compress_documents方法？

948024326 commented 1 month ago

还要自己写一个 LangchainReranker类和compress_documents方法？

不用，都写在rerank.py里面了，你试一下 image

tf18536 commented 1 month ago

还要自己写一个 LangchainReranker类和compress_documents方法？

不用，都写在rerank.py里面了，你试一下 image

非常感谢！ 好像这个没有调用xinfer的reranker，是封装了sentence_transformers单独启动了一个reranker

github-actions[bot] commented 3 weeks ago

这个问题已经被标记为 stale ，因为它已经超过 30 天没有任何活动。

Dax-Zhang-pxy commented 2 weeks ago

问下这个问题解决了吗？