Closed wwzh2015 closed 11 months ago
请仿照pytorch官方介绍进行尝试。根据我之前使用onnx的经验,这个网络中所用到的所有操作应该都能够被最新版本的onnx所支持,然后可能可以通过onnx的API转化成TensorRT可用的模型。
此外我使用过一种利用torchscript固定计算图的加速方法,如这里所示,虽然可能加速效率不如使用onnx的情况,但实现起来相对简单,并且在同结构网络下做过测试。
希望对你有所帮助 : )
请仿照pytorch官方介绍进行尝试。根据我之前使用onnx的经验,这个网络中所用到的所有操作应该都能够被最新版本的onnx所支持,然后可能可以通过onnx的API转化成TensorRT可用的模型。
此外我使用过一种利用torchscript固定计算图的加速方法,如这里所示,虽然可能加速效率不如使用onnx的情况,但实现起来相对简单,并且在同结构网络下做过测试。
希望对你有所帮助 : )