Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

[tera1k]

0. 論文

https://arxiv.org/abs/2103.14030

Ze Liu, Yutong Lin, Yue Cao, Han Hu, Yixuan Wei, Zheng Zhang, Stephen Lin, Baining Guo

• https://qiita.com/m_sugimura/items/139b182ee7c19c83e70a
• https://zenn.dev/takoroy/articles/e8c9e2903096b8

1. どんなもの？

WindowをシフトしながらAttention？

2. 先行研究と比べてどこがすごい？

3. 技術や手法のキモはどこ？

4. どうやって有効だと検証した？

5. 議論はある？

6. 次に読むべき論文は？