search

buxuku / video-subtitle-master

批量为视频或者音频生成字幕，并可批量将字幕翻译成其它语言。这是一个客户端工具, 跨平台支持 mac 和 windows 系统, 支持百度，火山，deeplx, openai, deepseek, ollama 等多个翻译服务
MIT License
422 stars 23 forks source link

在M1 Ultra 芯片上，GPU的利用率很低的问题。 #49

Open xdcgh opened 1 month ago

xdcgh commented 1 month ago
image image

用的是1.20版本，Large-v3模型，做中文字幕的提取工作。

但是发现一个问题，虽然GPU的使用率是几乎100%，但是GPU的负载却平均只有12W，负载非常低，感觉应该是一个异常问题。 因为正常在跑一个GPU使用100%的时候，GPU的功耗应该平均在60W到80W才对的。

不过相比于1.20之前的版本，这个版本的whisper可以调用ANE单元了，只是调用的负载也很低，并且只是短时负载一下。

感谢大佬的成果，大佬有捐赠的渠道嘛，想请大佬喝杯小咖啡☕️，以示感谢🙏

buxuku commented 1 month ago

感谢反馈，我在尝试使用 medium 模型时，它基本是一直在调用 ANE，我稍后将尝试下载 Large-V3 模型测试。

buxuku commented 1 month ago

我在 M1 pro 上面测试，Large-v3模型， GPU的功率也差不多只能达到 12W 左右，这有可能是模型方面的一些限制，我将持续关注一下。

xdcgh commented 1 month ago

哦哦哦，可以的，感谢大佬🙏