search

TsinghuaDatabaseGroup / DB-GPT

An LLM Based Diagnosis System (https://arxiv.org/pdf/2312.01454.pdf)
http://dbgpt.dbmind.cn/
Apache License 2.0
523 stars 74 forks source link

support config for private openai proxy #76

Open gumengkai opened 8 months ago

gumengkai commented 8 months ago

网络环境问题，希望能够以配置形式支持个人搭建的openai代理地址，如http://xxxxx:xx/api/openai/v1 另外，apikey的设置，是否也考虑以统一配置文件的形式支持，当前环境变量的配置方法，由于调试环境的不同、不太友好。

HungryFour commented 2 months ago

这个是支持的，可以在model_config.py中的ONLINE_LLM_MODEL进行设置。