Experimentos futuros

[vitalwarley]

• Y-aware Contrastive Loss: perda contrastiva com marge consciente de Y, onde Y é alguma propriedade das amostras e/ou pares.
  • Inspirado nas modificações da perda softmax:
  • ArcFace: introduziu margem fixa
  • MagFace: introduziu margem dependente da magnitude das embeddings (proxy para qualidade da imagem)
  • AdaFace: introduziu uma função de margem dependente (adaptativa, em função) da magnitude das embeddings (proxy para qualidade da imagem)

[vitalwarley]

• Contrastive Loss usando a família como rótulo, em vez do parentesco.
  • Razão: aproximar famílias parece mais coerente do que existência de parentesco.
  • Dificuldade: formar exemplos negativos.
  • Possível solução: mudar a formulação da perda contrastiva para considerar N famílias por batch e computar o numerador e denominador para cada família (e.g. num_i para família i contendo apenas pares válidos, den_i para família i contendo apenas pares inválidos com as demais famílias).

[vitalwarley]

Otimizar a perda contrastiva via $L{align}$ e $L{uniformity}$, como exposto em Understanding Contrastive Representation Learning through Alignment and Uniformity on the Hypersphere.