怎么使用GPU运行

[jiangningqu70]

请问怎么使用GPU运行，已经下载源码和模型了，但是使用python app.py感觉运行速度还不如打包好的app。exe，请问需要设置什么参数吗

[jianchang512]

如果你的显卡是 Nvidia，可以根据显卡驱动版本和操作系统版本，去安装对应的 CUDA Toolkit 11.8 ,建议预先将显卡驱动升级到最新版，再去安装。

执行 pip uninstall torch torchaudio torchvision 卸载，然后去 https://pytorch.org/get-started/locally/ 根据你的操作系统类型和 CUDA 版本，选择命令

然后将 pip3 改为 pip，再复制命令去执行。

安装完毕后，在该环境里，执行 python,等待进入后，再分别执行 import torch,torch.cuda.is_available(),如果有输出，说明CUDA配置正确，否则请检查配置或者重新配置CUDA

[jiangningqu70]

是N卡，这些也都安装了，合成好像还是CPU，代码有没有哪里能看到是CPU运行还是GPU运行呢

[jianchang512]

在该环境里，执行 python,等待进入后，再分别执行 import torch,torch.cuda.is_available(),如果有输出，说明CUDA配置正确，否则请检查配置或者重新配置CUDA

[jiangningqu70]

[jianchang512]

确定执行 python app.py和安装 。torch的是一个环境？ 不要搞混 全局环境和虚拟环境

打开 app.py 可以在开头 exit() 后边代码，将 上面的测试代码写里面，看看是否生效

[jiangningqu70]

我是这样运行的，这应该是局部环境的吧

[jiangningqu70]

加了你给的代码到app。py中，是这样的

[jianchang512]

那应该是生效了。合成时通过任务管理器查看GPU占用，就知道有没有用到了

[jianchang512]

刚打开第一次执行会比较慢，等待cmd黑窗口都显示线程启动成功了，再进行合成操作

[jiangningqu70]

启动很快，然后开始合成，合成就很慢，甚至一直就在合成

[jianchang512]

多试一会看看吧，GPU利用率有没有变化

[jiangningqu70]

OK,谢谢

[jianchang512]

app.py 大约 66 行有个 device 变量，你可以print下，看看实际使用的是cpu还是GPU，如果是CUDA，说明没问题

[jiangningqu70]

可能是我的电脑有什么问题吧，我再看看，谢谢啊

[0312birdzhang]

启动很快，然后开始合成，合成就很慢，甚至一直就在合成

你好，请问解决了吗？我的也是这样，一直在合成，看GPU利用率根本没用到

[0312birdzhang]

解决了。

1. 要添加一个tts\tts_models--multilingual--multi-dataset--xtts_v2\tos_agreed.txt的文件，内容如下

   I have read, understood and agreed to the Terms and Conditions.

2. 不知道为什么每次都要下载tts_models--multilingual--multi-dataset--xtts_v2这个模型，我去TTS源码里面给注释掉通过md5判断文件是否不匹配就可以了。在 venv\Lib\site-packages\TTS\utils\manage.py with open(md5sum_file, mode="r") as f下面那行

[jianchang512]

源码部署每次都会检测更新模型的。除非手动去更改库文件