Closed qiuqiao closed 3 months ago
实现了batch推理、batch解码，加速了tta选项开启后的推理速度。
修复了打开tta选项后，设备为cuda时程序会报错的错误。
实现了batch推理、batch解码，加速了tta选项开启后的推理速度。
修复了打开tta选项后，设备为cuda时程序会报错的错误。