search

airockchip / rknn-toolkit2

Other
841 stars 88 forks source link

INT8量化时出现ValueError: The height_width of r_shape [] is invalid #137

Open JiahuaOpenInterX opened 1 month ago

JiahuaOpenInterX commented 1 month ago

我在将onnx FP32模型尝试转为RKNN INT8模型，但在rknn.build时出现ValueError: The height_width of r_shape [] is invalid，如下图所示： Snipaste_2024-08-30_15-30-45

dataset已经配置，而且也带上了数据集，请问这种问题如何解决呢？

zen-xingle commented 1 month ago

可能是图片中有黑白的图片