OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
例行检查
功能描述 目前,langchain中使用,只有chat模式能调通,而LLM模型,调不通,但是换上gpt3.5就可以了。是我的问题还是平台本身的问题。 应用场景 LLM支持prompt chat设置太麻烦了。