memochou1993 / gpt-ai-assistant

OpenAI + LINE + Vercel = GPT AI Assistant
https://memochou1993.github.io/gpt-ai-assistant-docs/
MIT License
7.23k stars 9.33k forks source link

Feature/add other ai provider #327

Closed Jakevin closed 3 months ago

Jakevin commented 4 months ago

因應越來越多AI Saas公司推出自己的API串接服務,或是自架Ollama伺服器,

可使用的模型也越來越多元化,加上API也都兼容 Open-AI 的格式

所以發了這個PR

新增三個環境變數
PROVIDER_BASE_URL //供應商API網址
PROVIDER_BASE_TOKEN //供應商API金鑰
PROVIDER_BASE_MODEL //供應商模型名稱 ex:llama3-70b-8192

修改 BASE_OPENAI_URL 從 https://api.openai.com -> https://api.openai.com/v1
修改 原本 api.js裡的金鑰interceptors
修改 createAudioTranscriptions、createImage,加上API Header
修改 isChatCompletionModel 永遠為 ture,使用 `createTextCompletion` 情境幾乎不存在了

實測: 使用 openrouter 服務商的 lynn/soliloquy-l3 使用 groq 服務商的 llama3-70b-8192

截圖 2024-04-26 凌晨1 19 19

vercel[bot] commented 4 months ago

@Jakevin is attempting to deploy a commit to the Memo Chou's projects Team on Vercel.

A member of the Team first needs to authorize it.