search

THUDM / AgentBench

A Comprehensive Benchmark to Evaluate LLMs as Agents (ICLR'24)
https://llmbench.ai
Apache License 2.0
2.03k stars 138 forks source link

[Feature] 是否有方法可以使用多个chatgpt的api_key，这样可以减少访问限制的情况发生 #64

Closed wangyanli3630 closed 7 months ago

wangyanli3630 commented 8 months ago

是否有方法可以使用多个chatgpt的api_key，这样可以减少访问限制的情况发生

zhc7 commented 8 months ago

这个我们将来会考虑优化一下这方面的设计。目前有几个解决办法：

  1. 自行布置一个openai请求的转发服务器，里面做一个key pool
  2. 修改src/client/agents/http_agent.py里面的实现 支持从config中读取一个或多个key并合理分配请求

如果实现了2，我们欢迎pr！