请教一下，看到使用focal loss, 但是偏置没有初始化成-4.6，没有影响吗？

Stinky-Tofu / Stronger-yolo

🔥Improve yolo with latest paper

MIT License

3 stars 0 forks source link

Open poorfriend opened 5 years ago

poorfriend commented 5 years ago

@Stinky-Tofu

Stinky-Tofu commented 5 years ago

@poorfriend 初始化影响不大吧

Stinky-Tofu commented 5 years ago

@poorfriend 网络对这种初始化没这么敏感的

poorfriend commented 5 years ago

偏置初始化主要是防止背景类在初始训练的时候产生比较大的loss造成训练不稳定，我再对比下吧

Stinky-Tofu commented 5 years ago

嗯嗯

Stinky-Tofu commented 5 years ago

@poorfriend 哈哈，这个问题在面试的时候还被问过，主要是因为一阶段网络中负样本占主要部分，所以这样初始化可以在训练前期稳定训练，但是不影响最终的性能，我已经做过实验了。