labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.
https://tryfastgpt.ai
Other
18.21k stars 4.82k forks source link

配置文件配置模型时,允许传入自定义参数指的是那个? #1164

Closed luyouli closed 5 months ago

luyouli commented 7 months ago

例行检查

你的版本

问题描述 昨天提问:https://github.com/labring/FastGPT/issues/1152 答复我配置上“允许传入自定义参数”即可 我修改了很多次的配置,都不行 "defaultConfig": {"enable_search": "True"} "defaultConfig": {"enable_search": "true"} "defaultConfig": {"enable_search": True} "defaultConfig": {"enable_search": true}

另外,这些那个配置项是:“允许传入自定义参数” "vision": false, // 是否支持图片输入 "datasetProcess": true, // 是否设置为知识库处理模型(QA),务必保证至少有一个为true,否则知识库会报错 "usedInClassify": true, // 是否用于问题分类(务必保证至少有一个为true) "usedInExtractFields": true, // 是否用于内容提取(务必保证至少有一个为true) "usedInToolCall": true, // 是否用于工具调用(务必保证至少有一个为true) "usedInQueryExtension": true, // 是否用于问题优化(务必保证至少有一个为true) "toolChoice": true, // 是否支持工具选择(分类,内容提取,工具调用会用到。目前只有gpt支持) "functionCall": false, // 是否支持函数调用(分类,内容提取,工具调用会用到。会优先使用 toolChoice,如果为false,则使用 functionCall,如果仍为 false,则使用提示词模式) "customCQPrompt": "", // 自定义文本分类提示词(不支持工具和函数调用的模型 "customExtractPrompt": "", // 自定义内容提取提示词 "defaultSystemChatPrompt": "", // 对话默认携带的系统提示词 "defaultConfig":{} // 请求API时,挟带一些默认配置(比如 GLM4 的 top_p)

复现步骤

预期结果

相关截图

luyouli commented 7 months ago

4706 我已经这样配置了,还是不行

c121914yu commented 7 months ago

oneapi 有支持这个参数了么

luyouli commented 7 months ago

oneapi 有支持这个参数了么

这个是需要oneapi支持之后,才能使用吗

luyouli commented 7 months ago

通义千问是支持这个参数的 oneapi里只有插件参数可以配置,是要在“插件参数”里面把enable_search=true配置上吗? 5697 3823

c121914yu commented 7 months ago

oneapi 有支持这个参数了么

这个是需要oneapi支持之后,才能使用吗

可以通过直接 curl 请求 oneapi 进行测试。不确定它是否忽略该参数。 还有,你是否重启了,更新了配置。

luyouli commented 7 months ago

不仅重启了docker,还把宿主机重启了

请问如何curl请求测试?有具体的参考吗?

c121914yu commented 7 months ago

不仅重启了docker,还把宿主机重启了

请问如何curl请求测试?有具体的参考吗?

emmm,curl 是基本操作,,百度下吧。

luyouli commented 7 months ago

不仅重启了docker,还把宿主机重启了

请问如何curl请求测试?有具体的参考吗?

emmm,curl 是基本操作,,百度下吧。

我问的不是如何curl,而是curl oneapi地址后面的URL

c121914yu commented 7 months ago

不仅重启了docker,还把宿主机重启了 请问如何curl请求测试?有具体的参考吗?

emmm,curl 是基本操作,,百度下吧。

我问的不是如何curl,而是curl oneapi地址后面的URL

不就是和 openai 的一样的接口么?直接看 openai 文档就行了。

luyouli commented 7 months ago

不仅重启了docker,还把宿主机重启了 请问如何curl请求测试?有具体的参考吗?

emmm,curl 是基本操作,,百度下吧。

我问的不是如何curl,而是curl oneapi地址后面的URL

不就是和 openai 的一样的接口么?直接看 openai 文档就行了。

明天上午研究下

luyouli commented 7 months ago

加了enable_search=true参数后,获取的信息,如下 {"id":"qwen-max","object":"model","created":1626777600,"owned_by":"ali","permission":[{"id":"modelperm-LwHkVFn8AcMItP432fKKDIKJ","object":"model_permission","created":1626777600,"allow_create_engine":true,"allow_sampling":true,"allow_logprobs":true,"allow_search_indices":false,"allow_view":true,"allow_fine_tuning":false,"organization":"*","group":null,"is_blocking":false}],"root":"qwen-max","parent":null}

c121914yu commented 6 months ago

加了enable_search=true参数后,获取的信息,如下 {"id":"qwen-max","object":"model","created":1626777600,"owned_by":"ali","permission":[{"id":"modelperm-LwHkVFn8AcMItP432fKKDIKJ","object":"model_permission","created":1626777600,"allow_create_engine":true,"allow_sampling":true,"allow_logprobs":true,"allow_search_indices":false,"allow_view":true,"allow_fine_tuning":false,"organization":"*","group":null,"is_blocking":false}],"root":"qwen-max","parent":null}

这是可以还是不可以呢

Yshayu commented 3 months ago

我也遇到了同样的问题,请问你解决了吗?

luyouli commented 3 months ago

我也遇到了同样的问题,请问你解决了吗?

没有

Yshayu commented 3 months ago

我也遇到了同样的问题,请问您解决了吗?

没有

我也是没有解决,各种方法都尝试过了,在问题群问了也没有得到回复

luyouli commented 3 months ago

我也遇到了同样的问题,请问您解决了吗?

没有

我也是没有解决,各种方法都尝试过了,在问题群问了也没有得到回复

所以···我暂时弃用了

Yshayu commented 3 months ago

我也遇到了同样的问题,请问您解决了吗?

没有

我也是没有解决,各种方法都尝试过了,在问题群问了也没有得到回复

所以···我暂时弃用了

那你现在是用的什么解决方案?

luyouli commented 3 months ago

我也遇到了同样的问题,请问您解决了吗?

没有

我也是没有解决,各种方法都尝试过了,在问题群问了也没有得到回复

所以···我暂时弃用了

那你现在是用的什么解决方案?

没解决···

SDAIer commented 1 month ago

oneapi这个参数有问题

https://github.com/songquanpeng/one-api/issues/1857