Open padixa opened 4 months ago
本项目暂时还没有原生的claude3 api支持 不过我试了一下。可以通过再单独部署一个 lite-llm 兼容层来底层使用 claude3 api https://github.com/BerriAI/litellm anthropic 接口以及 aws bedrock 接口都是支持的。
上周在本项目中加入了vision模型的支持。所以这种部署方式下claude3 api的图像识别功能也没问题的。
或者用oneapi也是可以的,如下图
暂时用oneapi顶上
llama3可以吗,可以加吗
听说这个比ChatGPT4还要厉害.