search

songquanpeng / one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
16k stars 3.71k forks source link

请问如何兼容fireworks的api? #1472

Open anrgct opened 1 month ago

anrgct commented 1 month ago

它有两种接口/v1/completions和/v1/chat/completions，前者自定义渠道也不能用，不知道该如何添加渠道？

curl --request POST \
  --url https://api.fireworks.ai/inference/v1/completions \
  -H 'Accept: application/json' \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer <API_KEY>' \
  --data '{ 
    "model": "accounts/fireworks/models/starcoder-7b",
    "max_tokens": 1024,
    "top_p": 1,
    "top_k": 40,
    "presence_penalty": 0,
    "frequency_penalty": 0,
    "temperature": 0.1,
    "prompt": ""
  }'
QAbot-zh commented 1 month ago

这看着兼容 OpenAI 格式的呀，试试选 OpenAI 渠道，然后接口地址填 https://api.fireworks.ai/inference

anrgct commented 1 month ago

试了OpenAI不行，它的请求必须是/v1/completions，如果是/v1/chat/completions就出错

QAbot-zh commented 1 month ago

试了OpenAI不行，它的请求必须是/v1/completions，如果是/v1/chat/completions就出错

你不是说支持 chat 接口吗