yihong0618 / xiaogpt

Play ChatGPT and other LLM with Xiaomi AI Speaker
MIT License
5.86k stars 817 forks source link

对文本断句,实现tts半流式? #472

Closed VectorZhao closed 2 months ago

VectorZhao commented 2 months ago

目前对话开启流式,我测试OpenAI的tts并不能正常使用。只有关闭流式才能使用。造成等待时间很长,因为回答完毕之后才会生成tts音频。能不能对回答内容断语,然后下一句话生成的时候,上一句就已经开始请求tts了。有效减少对话等待时长。

frostming commented 2 months ago

这正是现在的实现方法,你可以读代码,问题可能不在这里

VectorZhao commented 2 months ago

原来就这样的方式,可能是哪里出了问题