search

gx304419380 / ai-service

基于djl实现的深度学习服务
56 stars 21 forks source link

问一下关于yolov8translator的问题 #8

Open 1609685371 opened 1 year ago

1609685371 commented 1 year ago

image 想问一下，上边第一个那里为什么要进行transpose处理，还有后边，在yolov5translator里边是5，但在v8里边变成了4，想了解一下原因，感谢，可以的话能不能加个联系方式，还想咨询一下其他问题

gx304419380 commented 1 year ago

image 想问一下，上边第一个那里为什么要进行transpose处理，还有后边，在yolov5translator里边是5，但在v8里边变成了4，想了解一下原因，感谢，可以的话能不能加个联系方式，还想咨询一下其他问题

主要是v5和v8的模型输出张量结构不一样，具体哪里不一样我也忘了，你可以看下官网或者用工具解析一下模型

1609685371 commented 1 year ago

我后来看明白了，担心现在又遇到了问题，就是您之前用DJL来训练过它官方实现的模型来吗？我拿它官方训练的YOLOV3训练好的模型做预测，但是预测的box框始终对不上，但是类别的置信度是ok的，预测的anchors我也已经调成它数据集的了？您有相关的经历吗

gx304419380 commented 1 year ago

你看下你模型输出的坐标是绝对坐标还是相对坐标，估计是坐标的问题

1609685371 commented 1 year ago

它YOLOV3模型默认是输出3个检测头，然后使用3个检测头去做loss计算，但是loss那一部分我看不懂，所以我也不知道它最后输出的是相对坐标还是绝对坐标？老哥能帮忙看看吗？弄了好几天了没明白😢😢😢