Open zuisong opened 7 months ago
在nextweb中消息会被截断,我是用oneapi转发的= =
在nextweb中消息会被截断,我是用oneapi转发的= =
我刚刚试了一下,没有发现这个问题
在nextweb中消息会被截断,我是用oneapi转发的= =
请问一下oneapi中如何设置呢? 我设置上都会报错
我在這個擴充套件上使用 https://harpa.ai
似乎一些包含代码的处理中,似乎是换行符\n没有没正确处理。这个问题在chatgpt-web中可以随机复现,还不清楚是不是接口转换导致的
应该加上embedding模型的相关内容,否则在flowise中无法使用。
反馈一个uTools的插件---ChatGPT.好友,能够使用,但是有两个问题。deno文件部署的
首先,输出回答的时候,插件是在内容全部生成完了,然后一次输出的。因为ChatGPT.好友是兼容OpenAI的流式输出的,所以是不是转写的时候格式和OpenAI的不一样。因为另外一个客户端ChatGPT Next Web它自己就支持Gemini,我看它的流式是正常的。它的请求是这样的:POST /v1beta/models/gemini-1.5-pro:streamGenerateContent?key=
第二个问题,回答里面会夹着特殊字符,我在ChatGPT Next Web也重复试了同一个问题,没有出现。
@manjieqi 感谢反馈。
第一个问题,为了适配function call
, 目前gemini调用的是不是流式借口,中间转发的时候适配了 openai 的流式相应格式, 所以客户端可以以流式的调用方式获得相应,只是会最终一起得到结果,暂时没有修改的计划。
第二个问题, 目前我没有复现这个问题,可能gemini响应本身就是乱码的。
对编程不是很懂啊,我理解function call就是在请求体里面加了字段,客户端请求里面没有相关字段,转换格式的时候也会另外设置吧,这样这部分不是可以使用gemini流式?
实测支持以下客户端(更多客户端欢迎补充):