search

ChenYingpeng / caffe-yolov3

A real-time object detection framework of Yolov3/v4 based on caffe
472 stars 230 forks source link

yolov3转caffemodel的精度损失 #55

Open sditeng opened 4 years ago

sditeng commented 4 years ago

您好，yolov3转caffemodel，用darknet和caffe跑之后对比，发现obj、w、h之间的绝对值误差蛮大的。

xinxin12345 commented 4 years ago

您好，yolov3转caffemodel，用darknet和caffe跑之后对比，发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗，想一起探讨下

sditeng commented 4 years ago

您好，yolov3转caffemodel，用darknet和caffe跑之后对比，发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗，想一起探讨下

解决了，darknet和caffe的yolo层顺序对应上就可以，差异在0.001以下

yulinhuyang commented 4 years ago

转换出来的顺序19 38 76是反过来的。好像是

liangX-box commented 4 years ago

您好，yolov3转caffemodel，用darknet和caffe跑之后对比，发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗，想一起探讨下

解决了，darknet和caffe的yolo层顺序对应上就可以，差异在0.001以下

请问下，您具体是怎么做的呢？我这边转完前和转完后的某个类别的AP差了好几个点。

liangX-box commented 4 years ago

转换出来的顺序19 38 76是反过来的。好像是

你好，能说的详细点吗？我好知道怎么去改。我转完后某个类别的AP下降了好几个点。

DaChaoXc commented 4 years ago

maybe,yolov3 should use the anchors of yolov3,yolov4 should use the anchors of yolov4

liudakai2 commented 4 years ago

您好，yolov3转caffemodel，用darknet和caffe跑之后对比，发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗，想一起探讨下

解决了，darknet和caffe的yolo层顺序对应上就可以，差异在0.001以下

请问您是怎么解决的，我转换yolov3-tiny的时候也出了问题

sditeng commented 4 years ago

将darknet和caffe网络的输出保存下来，用同一yolo层去比较就好了，差别挺小的

jiangkunkun1993 commented 3 years ago

将darknet和caffe网络的输出保存下来，用同一yolo层去比较就好了，差别挺小的

您好，我生成的模型运行demo时出现了core dump (segmentation fault)你们有遇到过吗，可以加个联系方式吗811149649@qq.com

sditeng commented 3 years ago

将darknet和caffe网络的输出保存下来，用同一yolo层去比较就好了，差别挺小的

您好，我生成的模型运行demo时出现了core dump (segmentation fault)你们有遇到过吗，可以加个联系方式吗811149649@qq.com

你的量化是不是用float16呢？用16可能会出现这个问题，用int8去试试

alan8122 commented 2 years ago

我用TensorRT的KL散度量化方法，量化了YOLOv3模型到int8，但是用量化后的int8进行推理，检测不到任何物体？能否指点一二，谢谢