search

EvalsOne / UnionLLM

通过与OpenAI兼容的统一方式调用国内外各种大语言模型和Agent编排工具API的轻量级开源Python工具包。
Other
78 stars 5 forks source link

可以把DeepSeek也加上吗？ #1

Open blmdxiao opened 6 months ago

blmdxiao commented 6 months ago

LiteLLM已经支持了

quentinzhang commented 6 months ago

UnionLLM新版本已经增加了对于DeepSeek和零一万物模型的原生支持。

此外，因为它们的接口与OpenAI格式兼容，也可以通过UnionLLM调用LiteLLM的custom proxy来实现。像这样： completion = unionchat(custom_llm_provider="openai", model=model, api_key="your-api-key", api_base="https://api.stepfun.com/v1", messages=messages, **params)

luckycat0426 commented 5 months ago

请问能否支持字节豆包

quentinzhang commented 5 months ago

请问能否支持字节豆包

好的，我去研究一下。

luckycat0426 commented 5 months ago

请问能否支持字节豆包

好的，我去研究一下。

已添加字节豆包支持 #2 请审阅代码

quentinzhang commented 5 months ago

请问能否支持字节豆包

好的，我去研究一下。

已添加字节豆包支持 #2 请审阅代码

谢谢你的贡献！做了一些代码的修改，请确认