Open tkuri opened 4 years ago
特徴の正規化(BN等)とAttentionモジュールは別々に研究されていることが多いが、これらを軽量に統合したAttentive Normalizationを提案。正規化のアフィン変換とAttentionの再スケーリング部は同じ役割を果たすことに注目して統合したのがキモ。代表的なCNNで性能向上を確認。
https://www.ecva.net/papers/eccv_2020/papers_ECCV/html/2668_ECCV_2020_paper.php
論文概要
特徴の正規化(BN等)とAttentionモジュールは別々に研究されていることが多いが、これらを軽量に統合したAttentive Normalizationを提案。正規化のアフィン変換とAttentionの再スケーリング部は同じ役割を果たすことに注目して統合したのがキモ。代表的なCNNで性能向上を確認。