支持动态的batchsize输入吗？

guojin-yan / TensorRT-CSharp-API

TensorRT wrapper for .NET.

Apache License 2.0

78 stars 11 forks source link

支持动态的batchsize输入吗？ #13

Closed Neroaway closed 3 months ago

Neroaway commented 3 months ago

predictor.SetBindingDimensions("images", new Dims(BatchSize, 3, 480, 640)); predictor.LoadInferenceData("images", inputDataBatch); 支持动态batchsize输入吗？因为有时候剪裁的图像数量并不一致

Neroaway commented 3 months ago

我的意思是，转成onnx engine的过程中，需要制定batchsize大小，有没有办法实现动态输入，不需要制定batchsize大小

guojin-yan commented 3 months ago

支持的，导出onnx模型的时候设置动态尺寸。