datawhalechina / self-llm

《开源大模型食用指南》基于Linux环境快速部署开源大模型,更适合中国宝宝的部署教程
Apache License 2.0
8.23k stars 982 forks source link

Qwen2-7B-Instruct Langchain 问题 #226

Open yinzih opened 2 months ago

yinzih commented 2 months ago

目前已经Qwen2 接入到 LangChain 框架中

image

按理说,应该要比之前直接调用 python 中的 requests 库,进行问答要快呀

image

但实际上,并不是,用python中的requests库进行问答要更快,那将Qwen2接入LangChain框架中为了什么呢?有大佬解惑一下嘛?

KMnO4-zx commented 2 months ago

只是提供一种接入langchain的方式,本意并不是为了比较谁更快。