Open andyweiqiu opened 3 years ago
一个4-5分钟的音频,在cpu上推理大概40-50分钟出结果,在GPU上大概2-3秒,这个参赛实时率是怎么算的 cpu信息: Architecture: x86_64 CPU op-mode(s): 32-bit, 64-bit Byte Order: Little Endian CPU(s): 48 On-line CPU(s) list: 0-47 Thread(s) per core: 2 Core(s) per socket: 12 座: 2 NUMA 节点: 2 厂商 ID: GenuineIntel CPU 系列: 6 型号: 85 型号名称: Intel(R) Xeon(R) Gold 5118 CPU @ 2.30GHz 步进: 4 CPU MHz: 2301.000 CPU max MHz: 2301.0000 CPU min MHz: 1000.0000 BogoMIPS: 4600.0
同发现了CPU推理速度很慢,但我测出来的RTF大概在1.19左右,没有你的结果那么。请问后来你有找到改善方法吗?
一个4-5分钟的音频,在cpu上推理大概40-50分钟出结果,在GPU上大概2-3秒,这个参赛实时率是怎么算的 cpu信息: Architecture: x86_64 CPU op-mode(s): 32-bit, 64-bit Byte Order: Little Endian CPU(s): 48 On-line CPU(s) list: 0-47 Thread(s) per core: 2 Core(s) per socket: 12 座: 2 NUMA 节点: 2 厂商 ID: GenuineIntel CPU 系列: 6 型号: 85 型号名称: Intel(R) Xeon(R) Gold 5118 CPU @ 2.30GHz 步进: 4 CPU MHz: 2301.000 CPU max MHz: 2301.0000 CPU min MHz: 1000.0000 BogoMIPS: 4600.0