labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.
https://fastgpt.in
Other
16.94k stars 4.53k forks source link

chatgpt-on-wechat v1.7.0适配问题 #2318

Closed monk-after-90s closed 4 weeks ago

monk-after-90s commented 1 month ago

例行检查

你的版本

问题描述, 日志截图

  1. fastgpt中的高级编排应用使用了工具调用,发布了apiKey通过chatgpt-on-wechat v1.7.0绑定微信,在微信里提问触发工具调用的问题比如“今天天气”,chatgpt-on-wechat报错。推测是fastgpt这边在进行工具调用时通过api响应的格式不兼容; image
  2. fastgpt中的高级编排应用使用了工具调用且选择的模型是不支持函数调用的时候,比如我用的自建qwen2 72B,发布了apiKey通过chatgpt-on-wechat v1.7.0绑定微信,在微信里提问不触发工具调用的问题比如“你好”,那么得到的回复会以“0: ”开头; image

复现步骤

预期结果

应用在进行工具调用时的api响应是具有兼容性的; 不支持函数调用的模型在进行工具调用的时候不会回复奇怪的字符“0: ”

相关截图

c121914yu commented 1 month ago

第一个问题,应该让 cow 适配,这是 GPT 标准格式。

c121914yu commented 1 month ago

第二个问题修复:https://github.com/labring/FastGPT/pull/2378

monk-after-90s commented 1 month ago

第一个问题,应该让 cow 适配,这是 GPT 标准格式。

😀cow有自己的tool calling,估计不会支持外部tool calling

Linnnkkk commented 2 weeks ago

这个问题解决了吗?

monk-after-90s commented 2 weeks ago

用这个代理一下吧,我自己写的 https://github.com/monk-after-90s/fastgptApiProxy @Linnnkkk

Linnnkkk commented 2 weeks ago

用这个代理一下吧,我自己写的 https://github.com/monk-after-90s/fastgptApiProxy @Linnnkkk

多谢大佬,请教一下这个怎么用啊,我是docker环境运行的。

monk-after-90s commented 2 weeks ago

用这个代理一下吧,我自己写的 https://github.com/monk-after-90s/fastgptApiProxy @Linnnkkk

多谢大佬,请教一下这个怎么用啊,我是docker环境运行的。

就是用这个项目代理下Fastgpt的api接口,然后将代理接口填入cow

Linnnkkk commented 2 weeks ago

用这个代理一下吧,我自己写的 https://github.com/monk-after-90s/fastgptApiProxy @Linnnkkk

多谢大佬,请教一下这个怎么用啊,我是docker环境运行的。

就是用这个项目代理下Fastgpt的api接口,然后将代理接口填入cow

项目代理下Fastgpt的api接我知道,但是cow填的代理地址应该是什么?然后这个项目在cow的容器内部署吗?

monk-after-90s commented 2 weeks ago

用这个代理一下吧,我自己写的 https://github.com/monk-after-90s/fastgptApiProxy @Linnnkkk

多谢大佬,请教一下这个怎么用啊,我是docker环境运行的。

就是用这个项目代理下Fastgpt的api接口,然后将代理接口填入cow

项目代理下Fastgpt的api接我知道,但是cow填的代理地址应该是什么?然后这个项目在cow的容器内部署吗?

好问题。那等我把这个代理做成cow的一个插件

Linnnkkk commented 2 weeks ago

Author

用这个代理一下吧,我自己写的 https://github.com/monk-after-90s/fastgptApiProxy @Linnnkkk

多谢大佬,请教一下这个怎么用啊,我是docker环境运行的。

就是用这个项目代理下Fastgpt的api接口,然后将代理接口填入cow

项目代理下Fastgpt的api接我知道,但是cow填的代理地址应该是什么?然后这个项目在cow的容器内部署吗?

好问题。那等我把这个代理做成cow的一个插件

抱歉哈,我对编程不太懂,只会照着教程做。如果大佬你能做成插件那就太好了,直接安装后配置一下,为了这事,我全网找了好几天了,没搞定,可愁死我了,希望大佬能尽快出插件版。