search

chenkui164 / FastASR

这是一个用C++实现ASR推理的项目，它依赖很少，安装也很简单，推理速度很快，在树莓派4B等ARM平台也可以流畅的运行。 支持的模型是由Google的Transformer模型中优化而来，数据集是开源wenetspeech(10000+小时)或阿里私有数据集(60000+小时)， 所以识别效果也很好，可以媲美许多商用的ASR软件。
Apache License 2.0
481 stars 74 forks source link

支持GPU加速 #4

Closed MaxMax2016 closed 2 years ago

MaxMax2016 commented 2 years ago

这是开源的最好的ASR，比K2,WENET,PADDLE SPEECH都好用，期望能支持GPU加速

chenkui164 commented 2 years ago

感谢使用，只是目前我在做模型量化和压缩的工作，这样可以让算法消耗更少的内存和获得更快的执行速度。支持GPU加速的工作也在调研当中，NVIDIA的GPU因为有成熟的CUDA库所以比较容易实现，但是像ARM上的GPU如何加速，仍需调研。 @dtx525942103

wentlei commented 1 year ago

感谢使用，只是目前我在做模型量化和压缩的工作，这样可以让算法消耗更少的内存和获得更快的执行速度。支持GPU加速的工作也在调研当中，NVIDIA的GPU因为有成熟的CUDA库所以比较容易实现，但是像ARM上的GPU如何加速，仍需调研。 @dtx525942103

大佬，NVIDIA的GPU支持有相关实例吗？

chenkui164 commented 1 year ago

没有实现，目前并不支持GPU。