bubbliiiing / retinanet-pytorch

这是一个retinanet-pytorch的源码,可以用于训练自己的模型。
MIT License
171 stars 27 forks source link

训练mAP问题 #18

Open ChristmasLee opened 1 year ago

ChristmasLee commented 1 year ago

b导,我在使用retinaNet训练时,使用主干网络作为预训练权重,然后pretrain设置为true,结果显示: Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 然后训练的每10代验证集mAP一直是0.00几,这是哪里出现问题如何解决呢?

bubbliiiing commented 1 year ago

Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 不是错误,tensorboard里面的。 后面这个应该是没解冻

ChristmasLee commented 1 year ago

Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 不是错误,tensorboard里面的。 后面这个应该是没解冻

那这个会影响训练结果吗,我的retinanet一直map是0.00x

ChristmasLee commented 1 year ago

Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 不是错误,tensorboard里面的。 后面这个应该是没解冻

b导,retinaNet您给的初始也是adam优化器,那是不是也不能换成sgd?

bubbliiiing commented 1 year ago

不建议换。不好调参

ChristmasLee commented 1 year ago

不建议换。不好调参

B导,我自己的数据集其他模型都sgd训练300epoch然后最后可以到90,但是用您默认参数adam训练retinanet只能到70,这怎么解决呢

bubbliiiing commented 1 year ago

yolo的效果比retinanet好还是蛮正常的……你可以再增大epoch看看

lty1234-deep commented 1 year ago

不建议更换。不好调参

B导,我自己的数据集其他模型都sgd训练300epoch然后最后可以到90,但是用你默认参数adam训练retinanet只能到70,这怎么解决呢

我也遇到了同样的问题,retinanet的map要低于其它模型,请问您解决了吗?