Closed leyiang closed 7 months ago
为行动力点赞👍,可以把QwenLLM.py 放入custom/llms/ 文件夹下,然后建一个新的config_qwen.yml, 我在Update里加上对于Qwen的支持。
为行动力点赞👍,可以把QwenLLM.py 放入custom/llms/ 文件夹下,然后建一个新的config_qwen.yml, 我在Update里加上对于Qwen的支持。
放到 custom/llms这部OK了,但是创建新的config_qwen.yml没理解,里边放什么呢?
现在config.yaml里面是openai的模型,config_qwen.yml使用qwen作为llm。
我先合了吧,我来处理好了。
国内的几家都试了下,只有通义千问返回的是正确的。 看了下llama_index支持的大模型,国内大模型都不在上面。 按它的Interface实现了一个QwenLLM, 可以直接用通义千问的API
用法:
问题:
样例:
![2024-01-26-232953_2418x210_scrot](https://github.com/wxywb/history_rag/assets/39115827/47687e76-8115-4164-af13-c83c5fcff6cb)