Bobholamovic / CDLab

Yet another repository for developing and benchmarking deep learning-based change detection methods.
The Unlicense
196 stars 30 forks source link

评价指标 #19

Open mygithubforlst opened 1 year ago

mygithubforlst commented 1 year ago

请问论文中用作对比的其他的模型的评价指标是你自己跑出来的结果吗?

Bobholamovic commented 1 year ago

是的,就是使用此仓库(但是在以前一个独立拉出来的实验分支)复现的结果。我记得复现精度应该至少都能和原论文持平。我对部分算法做了适应性改动,具体的改动点在论文中有提到。

mygithubforlst commented 1 year ago

请问为什么很多模型的指标都比原论文高(即使是没有经过你们改动的)?而且有的还高了很多呢? 想问下为什么不用原始论文的数据指标呢?我看到绝大部分论文都是这么做的

Bobholamovic commented 1 year ago
  1. 在相同的数据集上,即使模型结构没有变动,超参数、数据增强方法等因素也可能对精度造成较大影响,尤其是在不是很大的变化检测数据集上。你说的『高了很多』可能是不是指DSIFN哦?其实这一点我也很疑惑,DSIFN就算不算固定的backbone,参数量也还有那么大,按照深度学习的『常识』来说应该指标不会像论文里那么低……不过也只是我的猜测,作者没有公布训练代码,所以也无从考证。
  2. 这个我感觉主要有两个原因吧。首先,长期以来变化检测缺乏『权威』的公开数据集(比如语义分割的Cityscapes,目标检测的COCO),尽管LEVIR-CD等数据集在一定程度上改变了这一状况,但在这些数据集出现以前的一些经典深度学习算法(如FC-EF,现在仍不过时)在论文中也无法汇报可用于直接对比的指标,而其它论文复现的结果差异很大(而且也都是非官方结果),所以对这部分算法我就选择自己复现了。其它的一些论文中有指标的算法,是我在写这个项目的时候为了锻炼自己的工程能力加入的,后来想着复现都复现了,就用呗~ 也没想太多。
mygithubforlst commented 1 year ago

嗯呢,谢谢你解答