PaddlePaddle / models

Officially maintained, supported by PaddlePaddle, including CV, NLP, Speech, Rec, TS, big models and so on.
Apache License 2.0
6.9k stars 2.91k forks source link

想问一下关于senet中reduction_ratio的设置问题 #4713

Open lxk767363331 opened 4 years ago

lxk767363331 commented 4 years ago

HRNET中senet的reduction_ratio为什么设置为16 ,另外代码如下hrnet中的代码size=num_channels / reduction_ratio使用的是/ 而不是// 是否是错误? squeeze = fluid.layers.fc(input=pool, size=num_channels / reduction_ratio, act='relu', param_attr=fluid.param_attr.ParamAttr( initializer=fluid.initializer.Uniform( -stdv, stdv),name=name+'_sqz_weights'), bias_attr=ParamAttr(name=name+'_sqz_offset'))

hong19860320 commented 4 years ago

@cuicheng01 麻烦崔程大佬帮忙回答下,谢谢!

hong19860320 commented 4 years ago

@lxk767363331 你用的是python版本是多少啊?

lxk767363331 commented 4 years ago

py3.7

hong19860320 commented 4 years ago

py3.7

@cuicheng01 这个涉及到python版本问题,后面会进行修复的,所以,你说的是对的,需要使用//这个运算符。

cuicheng01 commented 4 years ago

后续会统一用'//',另外业界没有SE和HRNet的结合,我的这个套用的SENet中的参数,里边的reduction_ratio的值是16

lxk767363331 commented 4 years ago

我尝试使用了 se+hrnet 效果没有提升反而降低了 我在想是不是reduction_ratio的原因,所以想弄明白reduction_ratio的意义

cuicheng01 commented 4 years ago

我尝试使用了 se+hrnet 效果没有提升反而降低了 我在想是不是reduction_ratio的原因,所以想弄明白reduction_ratio的意义 SE+HRNet需要有带SE的预训练,直接加载没有SE的预训练的模型精度会比较低,另外,欢迎使用分类库的新库,有任何疑问可以在新库下提issue~ 新的分类库地址:https://github.com/PaddlePaddle/PaddleClas