zuisong / gemini-openai-proxy

OpenAI to Google Gemini https://gemini-openai-proxy.deno.dev
https://gemini-openai-proxy.zuisong.workers.dev
MIT License
279 stars 80 forks source link

ChatGPT 客户端支持情况和问题反馈 #7

Open zuisong opened 7 months ago

zuisong commented 7 months ago

实测支持以下客户端(更多客户端欢迎补充):

yuanshangyujingshierlou commented 6 months ago

在nextweb中消息会被截断,我是用oneapi转发的= =

zuisong commented 6 months ago

在nextweb中消息会被截断,我是用oneapi转发的= =

image

我刚刚试了一下,没有发现这个问题

yefx commented 6 months ago

在nextweb中消息会被截断,我是用oneapi转发的= =

请问一下oneapi中如何设置呢? 我设置上都会报错

bestpika commented 6 months ago

我在這個擴充套件上使用 https://harpa.ai

emengweb commented 6 months ago

似乎一些包含代码的处理中,似乎是换行符\n没有没正确处理。这个问题在chatgpt-web中可以随机复现,还不清楚是不是接口转换导致的

musuiot commented 5 months ago

应该加上embedding模型的相关内容,否则在flowise中无法使用。

azicen commented 5 months ago

lobe-chat可以使用oneapi转发的接口

manjieqi commented 3 months ago

反馈一个uTools的插件---ChatGPT.好友,能够使用,但是有两个问题。deno文件部署的

首先,输出回答的时候,插件是在内容全部生成完了,然后一次输出的。因为ChatGPT.好友是兼容OpenAI的流式输出的,所以是不是转写的时候格式和OpenAI的不一样。因为另外一个客户端ChatGPT Next Web它自己就支持Gemini,我看它的流式是正常的。它的请求是这样的:POST /v1beta/models/gemini-1.5-pro:streamGenerateContent?key=

第二个问题,回答里面会夹着特殊字符,我在ChatGPT Next Web也重复试了同一个问题,没有出现。

Snipaste_2024-06-09_12-55-42
zuisong commented 3 months ago

@manjieqi 感谢反馈。 第一个问题,为了适配function call, 目前gemini调用的是不是流式借口,中间转发的时候适配了 openai 的流式相应格式, 所以客户端可以以流式的调用方式获得相应,只是会最终一起得到结果,暂时没有修改的计划

第二个问题, 目前我没有复现这个问题,可能gemini响应本身就是乱码的。

manjieqi commented 3 months ago

对编程不是很懂啊,我理解function call就是在请求体里面加了字段,客户端请求里面没有相关字段,转换格式的时候也会另外设置吧,这样这部分不是可以使用gemini流式?