rockchip-linux / rknn-toolkit2

BSD 3-Clause "New" or "Revised" License
835 stars 151 forks source link

pt文件转onnx后再转rknn时得到推理图片出现了花屏,也就是大量的锚框,已解决 #264

Open danny-zhu opened 6 months ago

danny-zhu commented 6 months ago

根据野火提供的教程https://doc.embedfire.com/linux/rk356x/Ai/zh/latest/lubancat_ai/example/yolov5.html,将pt转成onnx后,再利用rknn-tookit2转rknn时,测试的result.jpg图片出现了花屏,也就是大量的目标检测框框。如下图: 1703208713354_396E0004-BFB0-456e-9F78-C907981693C9 后来发现有个博主遇到类似的问题https://blog.csdn.net/weixin_43141131/article/details/128407827,根据他的提示是由于导出时,也就是野火提供的导出教程文档,修改的yolo.py的forward方法里增加sigmoid函数处理,导致了花屏,把这个sigmoid函数去掉就好了。yolov5的models/yolo.py forward方法改成下面这样,就可以了。

    def forward(self, x):
        z = []  # inference output
        for i in range(self.nl):
            x[i] = self.m[i](x[i])  # conv

        return x
meijie-jesse commented 6 months ago

这其实是后处理出了问题,不建议直接改训练模型,用官方最新demo的代码就解决了