Open danny-zhu opened 6 months ago
根据野火提供的教程https://doc.embedfire.com/linux/rk356x/Ai/zh/latest/lubancat_ai/example/yolov5.html,将pt转成onnx后,再利用rknn-tookit2转rknn时,测试的result.jpg图片出现了花屏,也就是大量的目标检测框框。如下图: 后来发现有个博主遇到类似的问题https://blog.csdn.net/weixin_43141131/article/details/128407827,根据他的提示是由于导出时,也就是野火提供的导出教程文档,修改的yolo.py的forward方法里增加sigmoid函数处理,导致了花屏,把这个sigmoid函数去掉就好了。yolov5的models/yolo.py forward方法改成下面这样,就可以了。
def forward(self, x): z = [] # inference output for i in range(self.nl): x[i] = self.m[i](x[i]) # conv return x
这其实是后处理出了问题,不建议直接改训练模型,用官方最新demo的代码就解决了
根据野火提供的教程https://doc.embedfire.com/linux/rk356x/Ai/zh/latest/lubancat_ai/example/yolov5.html,将pt转成onnx后,再利用rknn-tookit2转rknn时,测试的result.jpg图片出现了花屏,也就是大量的目标检测框框。如下图:
后来发现有个博主遇到类似的问题https://blog.csdn.net/weixin_43141131/article/details/128407827,根据他的提示是由于导出时,也就是野火提供的导出教程文档,修改的yolo.py的forward方法里增加sigmoid函数处理,导致了花屏,把这个sigmoid函数去掉就好了。yolov5的models/yolo.py forward方法改成下面这样,就可以了。