lenML / ChatTTS-Forge

🍦 ChatTTS-Forge is a project developed around TTS generation model, implementing an API Server and a Gradio-based WebUI.
https://huggingface.co/spaces/lenML/ChatTTS-Forge
GNU Affero General Public License v3.0
665 stars 83 forks source link

[ISSUE] 关于开启--compile之后,webui输出窗口乱码以及api后台卡主 #110

Closed kedgelee closed 2 months ago

kedgelee commented 2 months ago

确认清单

你的issues

你好!我在最新代码中只要webui.py添加--compile启动之后执行推理会出现乱码并卡死,且无任何报错。 version: v0.7.0-50-gd57c97d | branch: main | python: 3.10.14 | torch: 2.3.1 | ffmpeg: 4.3 image

以及launch.py添加--compile启动之后,调用v1/xtts_v2/tts_stream或v1/tts接口开启流式选项都会在完成第一次推理之后服务端就会卡主无法继续执行推理,后台无任何报错。 我是执行的python脚本来测试接口的,在终端会一直显示脚本正在执行的状态,无法通过ctrl+c中断,我试了/docs的文档页面只能中断api服务。 image

我再次使用两周前自己保存的仓库代码(具体版本看不到了)启动webui.py --compile后执行推理会出现同样乱码卡死的情况,但是启动launch.py --compile测试接口并不会出现卡死,可以持续调用接口。

zhzLuke96 commented 2 months ago

主要是 gradio track 导致的,所以如果你需要使用 webui 同时开启 --compile 的话,那么需要使用下面两个参数保证不影响编译过程(任意一个)

added https://github.com/lenML/ChatTTS-Forge/commit/e57b37cd1884afcbf0c939b275e8177200ebb4e1