search

labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.
https://fastgpt.in
Other
15.29k stars 3.99k forks source link

m3e接入one-api的问题 #1865

Closed lingaoan2024 closed 1 week ago

lingaoan2024 commented 1 week ago

例行检查

你的版本

问题描述, 日志截图 无法正常访问one-api渠道的embedding模型 image image 直接请求docker部署的m3e如下图，是可以正常向量化 image 下面是oneapi渠道配置 image 下面是测试截图 image 尝试过配置中将url替换为http://host.docker.internal:6008/v1/embeddings 或者类型各种替换尝试，均可以正常报错，但是测试都是404 使用ollama中的chevalblanc/acge_text_embedding:latest也是一样无法找到

请各位大神帮忙看看 复现步骤 按照官方文档部署m3e:https://doc.fastgpt.in/docs/development/custom-models/m3e/ docker安装脚本如下： docker run -d --name m3e -p 6008:6008 -e SK-KEY=sk-aaabbbcccdddeeefffggghhhiiijjjkkk registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest 预期结果 希望能正常使用embedding 相关截图

lingaoan2024 commented 1 week ago

补充一下： config.json配置如下： image 是否可以配置vectorModels像配置reRankModels一样，跳过oneapi？

ajiader commented 1 week ago

one api m3e配置截图 估计是url问题

Essence9999 commented 1 week ago

sudo docker logs m3e 看日志报啥错

lingaoan2024 commented 1 week ago

sudo docker logs m3e 看日志报啥错

m3e中没有请求相关的日志，请求还未到模型

lingaoan2024 commented 1 week ago

one api m3e配置截图 估计是url问题

url没有问题呢，配置中host.docker.internal是因为one api部署在docker中

lingaoan2024 commented 1 week ago

在另一台电脑上重新来了一遍，目前已解决，唯一区别就是one-api的令牌配置 昨天配置时，选择了模型范围，今天未选择模型fan范围，已经可以创建索引 image