[ 需求 ] 新增 OpenAI API 代理站点的设置

bbb3n commented 7 months ago

因为某些情况下，不能直接访问 OpenAI ，需要使用国内网络可访问的代理服务。能否新增一个环境变量，例如 API_BASE_URL

wxywb commented 7 months ago

关于这个我看了一下，似乎是通过读取环境变量将openai的url换成某个proxy的地址，虽然我可以试试，但我没有这些代理地址，无法确认我是否做对，如果你可以成功，可以提交一个PR我来进行一些后处理？

bbb3n commented 7 months ago

关于这个我看了一下，似乎是通过读取环境变量将openai的url换成某个proxy的地址，虽然我可以试试，但我没有这些代理地址，无法确认我是否做对，如果你可以成功，可以提交一个PR我来进行一些后处理？

我只用过 OpenAI 官方的 Python 库如果用 Python 是这样修改的代码的

from openai import OpenAI

api_key = "sk-agMLJKiG1IDwox1E74133bC0366f4a08861525E15a7f95Fd"
api_base = "https://api.b3n.fun/v1"
client = OpenAI(api_key=api_key, base_url=api_base)

completion = client.chat.completions.create(
  model="gpt-3.5-turbo",
  messages=[
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ]
)

print(completion.choices[0].message)

我自己用的时候没有试过环境变量法，我并不确定 OpenAI 有为此设定专门的环境变量（文档里也未看到）。但是 Python 里是有专门的参数的，不知道你们能否研究一下？

wxywb commented 7 months ago

我大概看明白了，把你的apikey打个码吧

wxywb commented 7 months ago

你现在可以修改cfgs/config.yaml来使用api_base了

llm:
    name: "gpt-4-0125-preview"
    temperature: 0.01
    api_base: "xxxxxxxxxxx"

wxywb / history_rag

[ 需求 ] 新增 OpenAI API 代理站点的设置 #10