非常感谢。流式输出过程是是否可以逐字输出。

zhu327 / gemini-openai-proxy

A proxy for converting the OpenAI API protocol to the Google Gemini Pro protocol.

MIT License

504 stars 92 forks source link

Closed popdo closed 6 months ago

popdo commented 6 months ago

部署后发现他的流式输出过程是一段一段的内容。

gemimi和openai模型都是这样，是否可以优化，让openai模型可以逐字输出。

zhu327 commented 6 months ago

This is an inherent feature of Gemini Pro and cannot be changed.