unit-mesh / auto-dev

🧙‍AutoDev: The AI-powered coding wizard(AI 驱动编程助手) with multilingual support 🌐, auto code generation 🏗️, and a helpful bug-slaying assistant 🐞! Customizable prompts 🎨 and a magic Auto Dev/Testing/Document/Agent feature 🧪 included! 🚀
https://ide.unitmesh.cc/
Mozilla Public License 2.0
2.74k stars 315 forks source link

自定义模型配置支持 #84

Closed xiaoshyang closed 7 months ago

xiaoshyang commented 7 months ago

我们公司内部封装了各大模型,统一暴露了一个接口,现在无法配置使用,内部使用有自己的token,还有些自定义的参数是必填的。另外看request body 和response path那的配置有些懵逼。可以举个例子。这样有个参考,更方便小白用户接入

phodal commented 7 months ago

示例里的就是某公司的:https://ide.unitmesh.cc/custom/llm-server#custom-request-format

再详细的话,应该也没有了。

iptton commented 7 months ago

示例里的就是某公司的:https://ide.unitmesh.cc/custom/llm-server#custom-request-format

再详细的话,应该也没有了。

回头我再细化下这个配置说明吧,其实看代码最快,有相关的单测..

iptton commented 7 months ago

示例里的就是某公司的:https://ide.unitmesh.cc/custom/llm-server#custom-request-format

再详细的话,应该也没有了。

回头我再细化下这个配置说明吧,其实看代码最快,有相关的单测..

https://github.com/unit-mesh/auto-dev/blob/master/src/test/kotlin/cc/unitmesh/devti/llms/custom/CustomLLMProviderTest.kt

phodal commented 7 months ago

文档已更新 https://ide.unitmesh.cc/custom/llm-server#custom-request-format