非常感谢。流式输出过程是是否可以逐字输出。

zhu327 / gemini-openai-proxy

A proxy for converting the OpenAI API protocol to the Google Gemini Pro protocol.

MIT License

580 stars 109 forks source link

Closed popdo closed 11 months ago

popdo commented 11 months ago

部署后发现他的流式输出过程是一段一段的内容。

gemimi和openai模型都是这样，是否可以优化，让openai模型可以逐字输出。

zhu327 commented 11 months ago

This is an inherent feature of Gemini Pro and cannot be changed.