songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
18.02k stars 4.09k forks source link

在本地安装ollama,配置在one-api,测试连接时报错。 #1150

Closed hnbzlb closed 6 months ago

hnbzlb commented 6 months ago

例行检查

问题描述 one-api采用docker安装 ,ollama与one-api安装在同一个机器上。 在one-api管理渠道中配置渠道,模型为qwen:0.5b-chat,在管理渠道中点击【测试】连接时报错,如下图。

复现步骤 预期结果

相关截图 image 我验证模型是可以运行。 image

image

songquanpeng commented 6 months ago

Docker 里安装网络默认是不互通的,建议改成你的公网 ip

hnbzlb commented 6 months ago

我在云服务器部署,我觉得应该是可以设置ip的,感觉这个IP写死了,我现在服务器,在容器应用内肯定无法访问宿主机的127.0.0.1,只能是IP,现在应用没有地方可以设置。我现在使用手动版本安装,是可以了

hnbzlb commented 6 months ago

4f61fc1d12ea4f709c4f1e2ae9e6bdd3~noop 已解决。

sonny-zhang commented 2 months ago

@hnbzlb 你用的公网IP吗?