search

labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.
https://tryfastgpt.ai
Other
17.48k stars 4.69k forks source link

chatgpt-on-wechat使用GLM-4 模型后字段改变问题 #1219

Closed AiLiMeN closed 5 months ago

AiLiMeN commented 6 months ago

chatgpt-on-wechat 1.5.7版本后支持GLM4模型，但是配置文件中字段有改动， 原： "model": "gpt-3.5-turbo", "zhipu_ai_api_key": "YOUR_API_KEY", "zhipu_ai_api_base": "http://xx.xx.xx.xx:3000/api/v1"

现在： "model": "glm-4", "zhipu_ai_api_key": "YOUR_API_KEY", "zhipu_ai_api_base": "https://open.bigmodel.cn/api/paas/v4" 导致如果chatgpt-on-wechat接glm4模型就不能使用fastgpt，接fastgpt就无法使用glm4模型，可否与chatgpt-on-wechat沟通，统一下字段

nongmo677 commented 6 months ago

接入oneapi做中转

AiLiMeN commented 6 months ago

接入oneapi做中转

"zhipu_ai_api_key": "YOUR_API_KEY", 这里填oneapi的令牌吗？ "zhipu_ai_api_base": "https://open.bigmodel.cn/api/paas/v4"，这里填oneapi部署的地址及端口吗？

nongmo677 commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

AiLiMeN commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

nongmo677 commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

AiLiMeN commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

是这样配置的，但是他不能用glm4

AiLiMeN commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

OPEN_AI_API_KEY: 'fastgpt-xxxxxx' OPEN_AI_API_BASE: 'http://xxx:3000/api/v1' 用这个配置文件接入fastgpt后只能调用它默认的gpt3.5

AiLiMeN commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

因为我fastgpt是接的glm4，在PC上的回答比较好，但是用chatgpt-on-wechat微信回答的就有点差强人意，看了日志有一个警告，默认走gpt3.5了

nongmo677 commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

OPEN_AI_API_KEY: 'fastgpt-xxxxxx' OPEN_AI_API_BASE: 'http://xxx:3000/api/v1' 用这个配置文件接入fastgpt后只能调用它默认的gpt3.5

oneapi里面支持模型重定向，就是说接收到gpt3.5，但是你可以重定向到你定义的glm4，这个功能你探索一下

AiLiMeN commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

OPEN_AI_API_KEY: 'fastgpt-xxxxxx' OPEN_AI_API_BASE: 'http://xxx:3000/api/v1' 用这个配置文件接入fastgpt后只能调用它默认的gpt3.5

oneapi里面支持模型重定向，就是说接收到gpt3.5，但是你可以重定向到你定义的glm4，这个功能你探索一下

oneapi里面里面我就配了两个模型，一个m3e一个glm4，按道理它用不了gpt3.5的

nongmo677 commented 6 months ago

实际上不需要你的渠道里面真的能用这个模型...例如我配的智普的渠道，我在里面写gpt-3.5-turbo也可以的 然后在下面重定向就好了 image

测试结果如下 image

nongmo677 commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

OPEN_AI_API_KEY: 'fastgpt-xxxxxx' OPEN_AI_API_BASE: 'http://xxx:3000/api/v1' 用这个配置文件接入fastgpt后只能调用它默认的gpt3.5

oneapi里面支持模型重定向，就是说接收到gpt3.5，但是你可以重定向到你定义的glm4，这个功能你探索一下

oneapi里面里面我就配了两个模型，一个m3e一个glm4，按道理它用不了gpt3.5的

因为你说是默认走gpt3.5，那你就在glm4渠道里配一个gpt3.5的名字，然后重定向，理论上没问题

AiLiMeN commented 6 months ago

冒昧问一下，你是直接买FastGPT官网给的api-key吗...还是部署开源版本，然后chatgpt-on-wechat调fastgpt发布的api？

部署的开源版本，chatgpt-on-wechat调fastgpt发布的api

那就部署一个oneapi，fastgpt的配置里接入oneapi 的地址和令牌，chatgpt-on-wechat正常调fastgpt发布的api，这个思路理论上是没问题的

OPEN_AI_API_KEY: 'fastgpt-xxxxxx' OPEN_AI_API_BASE: 'http://xxx:3000/api/v1' 用这个配置文件接入fastgpt后只能调用它默认的gpt3.5

oneapi里面支持模型重定向，就是说接收到gpt3.5，但是你可以重定向到你定义的glm4，这个功能你探索一下

oneapi里面里面我就配了两个模型，一个m3e一个glm4，按道理它用不了gpt3.5的

因为你说是默认走gpt3.5，那你就在glm4渠道里配一个gpt3.5的名字，然后重定向，理论上没问题

但是我chatgpt-on-wechat没有连oneapi，连的是fastgpt，fastpgt连的是oneapi,其实我希望是chatgpt-on-wechat是个通道，把微信里的信息传递给fastgpt并把fastgpt的结果返回给chatgpt-on-wechat即可，不需要它单独再调用语言模型

c121914yu commented 5 months ago

走什么模型没关系，fastgpt不会关注传入的模型是什么，而是关注你配置了什么模型。