Closed bbb3n closed 7 months ago
关于这个我看了一下,似乎是通过读取环境变量将openai的url换成某个proxy的地址,虽然我可以试试,但我没有这些代理地址,无法确认我是否做对,如果你可以成功,可以提交一个PR我来进行一些后处理?
关于这个我看了一下,似乎是通过读取环境变量将openai的url换成某个proxy的地址,虽然我可以试试,但我没有这些代理地址,无法确认我是否做对,如果你可以成功,可以提交一个PR我来进行一些后处理?
我只用过 OpenAI 官方的 Python 库 如果用 Python 是这样修改的代码的
from openai import OpenAI
api_key = "sk-agMLJKiG1IDwox1E74133bC0366f4a08861525E15a7f95Fd"
api_base = "https://api.b3n.fun/v1"
client = OpenAI(api_key=api_key, base_url=api_base)
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(completion.choices[0].message)
我自己用的时候没有试过环境变量法,我并不确定 OpenAI 有为此设定专门的环境变量(文档里也未看到)。但是 Python 里是有专门的参数的,不知道你们能否研究一下?
我大概看明白了,把你的apikey打个码吧
你现在可以修改cfgs/config.yaml来使用api_base了
llm:
name: "gpt-4-0125-preview"
temperature: 0.01
api_base: "xxxxxxxxxxx"
因为某些情况下,不能直接访问 OpenAI ,需要使用国内网络可访问的 代理服务。 能否新增一个环境变量,例如 API_BASE_URL