datawhalechina / self-llm

《开源大模型食用指南》基于Linux环境快速部署开源大模型,更适合中国宝宝的部署教程
Apache License 2.0
6k stars 741 forks source link

GLM4接入langchain无法识别到RetrievalQA.from_chain_type下面的memory参数 #179

Open akira149 opened 1 week ago

akira149 commented 1 week ago

qa_chain = RetrievalQA.from_chain_type( llm, memory = memory, chain_type="stuff", retriever=retriever, return_source_documents=False, chain_type_kwargs={"prompt": DEFAULT_PROMPT} , verbose = True ### 自动生成前缀 ) memory里面有东西,能够被memory_history = memory.load_memory_variables({})显示出来,但是glm4的模型读取不到

akira149 commented 1 week ago

换成了qa_chain = ConversationalRetrievalChain.from_llm( llm, chain_type="stuff", memory = memory, retriever=retriever, return_source_documents=False, verbose = True ### 自动生成前缀 ) 也不行。 微信图片_20240621151724

logan-zou commented 1 week ago

您好,我们这里对模型做的封装没有做历史的处理,所以接入langchain之后不能支持记忆功能,如果需要支持记忆功能,可能需要自行修改一下模型封装来支持

akira149 commented 1 week ago

我哭了我哭了,哇啊啊啊啊