search

cjyaddone / ChatWaifu

Combined ChatGPT with Moegoe TTS to create a Chatting Waifu
MIT License
814 stars 89 forks source link

请问如何提高速度，例如多线程或改成gpu推理 #12

Open landlord-Chai opened 1 year ago

landlord-Chai commented 1 year ago

如题，目前我发现大概四十个字要四秒多，这个还能更快一点吗，之前看到有人说自己用gpu推理，速度很快

MuBai-He commented 1 year ago

群中最新版本已经支持GPU推理了