[2018]ArcFace: Additive Angular Margin Loss for Deep Face Recognition

[IkokObi]

ざっくり言うと

• 分類先が日々増えるような顔認識では，通常の分類モデルを作り続けるのは難しい．そこで距離空間を学習し，KNNのような方法で判別する方法が取られる．
• クラス内分散が小さく，クラス間分散が大きいと，判別しやすい
• 顔認識等で用いられる距離学習において，ArcFaceという学習モデル(ロス関数)を提案
• ArcFaceは通常のsoftmaxへ渡される部分を内積ではなくcos類似度にして，角度に対してマージンを設ける．これによりクラス内分散が小さくなり，クラス間分散が大きくなる
• 分類学習を行う過程で距離学習を行う
• 様々なタスクで性能を比較し，ArcFaceはとても優秀

  キーワード

• face recognintion
• metric learning
• feature learning

1. 情報

論文リンク

https://arxiv.org/abs/1801.07698

著者

Jiankang Deng, Jia Guo, Niannan Xue, Stefanos Zafeiriou

投稿日付

2018/1/23

2. 先行研究と比べてどこがすごい？

• 先行研究のSphereFaceでは学習をうまく収束させるために工夫が必要だったが，ArcFaceは特に工夫が要らない
• Triplet-Lossは学習データのペアの組み合わせが増大するが，ArcFaceは通常の分類に少し工夫を入れるだけで済むため，訓練データの準備の必要はない
• 通常の分類学習に1段階追加するだけで実装可能であり，学習時間のオーバヘッドも少ない
• 様々なタスクで既存のモデルより性能が良い

3. 技術や手法のキモはどこ？

• softmaxへの入力の部分をx^Twのような内積ではなく，cos theta = x^T w/|x||w|というようなコサイン距離を計算し，正しい分類先のコサインの角度thetaに対してmarginをtheta + mとうような形で入れる
• ArcFaceは角度空間において，一様なマージンが入る

4. どうやって有効だと検証した？

• 11種類?のタスクで精度検証を行い，既存モデルよりも高い性能を示した
• 比較モデルは下の5つ
  • SphereFace
  • CosFace
  • Intra-Loss
  • Inter-Loss
  • Triplet-Loss

5. 議論はある？

• 学習過程における，角度分布の変化や正例と負例の角度分布等も調べている

6. 次に読むべき論文は？

• FaceNet: A Unified Embedding for Face Recognition and Clustering

  • Florian Schroff, Dmitry Kalenichenko, James Philbin
  • https://arxiv.org/abs/1503.03832
  • 2015/3/12
  • Triplet-Lossの論文
  • 被引用数2818

• CosFace: Large Margin Cosine Loss for Deep Face Recognition

  • Hao Wang, Yitong Wang, Zheng Zhou, Xing Ji, Dihong Gong, Jingchao Zhou, Zhifeng Li, Wei Liu
  • https://arxiv.org/abs/1801.09414
  • 2018/1/29 (CVPR 2018)
  • CosFaceの論文

• SphereFace: Deep Hypersphere Embedding for Face Recognition

  • Weiyang Liu, Yandong Wen, Zhiding Yu, Ming Li, Bhiksha Raj, Le Song
  • https://arxiv.org/abs/1704.08063
  • 2017/4/26 (CVPR 2017)
  • SphereFaceの論文

[IkokObi]

7. 実装の詳細

• 通常のsoftmax loss

  

• softmax層の直前の重みwと入力xを正規化することで，cosにする

  

• 正例のクラスにのみ，角度にマージンを加える

  

• 学習の流れの全体像

  

• toy dataの結果がとても分かりやすく綺麗

  

• SphereFace, CosFace, ArcFaceをまとめて次のように表すことが出来る

  

• 最終層に渡す特徴量はResNet50とResNet100を用いた

• 学習過程において正例クラスの角度分布は，減少するが30-40度付近に収束するらしい(左図)

  

[IkokObi]

8. データセット

• データセット概要

• 下の図において，

  • 上の段が学習データ
  • 真ん中の段はテストデータセット
  • 下の段は大規模データのテストデータセット

• MS1MV2については，人種的に近い人々にannotationをお願いして一部データを再annotation

• YTFとiQIYI-VIDはビデオデータ

[IkokObi]

9. 結果の詳細

• 沢山あるので1つだけ
• スコアがほぼ頭打ちな気がする
• ArcFaceに他のロス関数を組み合わせたりもしているが，ArcFace単体がbest
• 学習後の角度分布
• ArcFaceの方がTriplet-Lossよりも若干良さげというのが見て取れる

[IkokObi]

雑感&メモ

• QiitaやTwitterでバズっていた？から読んでみた
• アイデアがシンプルで分かりやすく，かつ性能が良いというのは素晴らしい
• 実装が簡単で，自分でもMNISTで試したらそれっぽい結果が出せた
• 実装はPytorchの例がとても分かりやすい (https://github.com/ronghuaiyang/arcface-pytorch/blob/master/models/metrics.py)