这代码中会先将onnx转为engine么？

UNeedCryDear / yolov8-opencv-onnxruntime-cpp

yolov8 hub,cpp with onnxruntime and opencv

Apache License 2.0

282 stars 53 forks source link

Closed Lishumuzixin closed 5 months ago

Lishumuzixin commented 8 months ago

你好，我刚刚了解这个部署，请问这个项目中会先将onnx转为engine么？

UNeedCryDear commented 8 months ago

目前项目中不会转出engine，除非你自己将后端从cuda改为tensorRT的后端，这个时候ort会自动生成一个engine文件供给tensorRT的后端来推理使用。就当前我项目来说，直接就是onnx的文件，没有涉及到转换问题