[2018] Mitigating Unwanted Biases with Adversarial Learning

[gatheluck]

論文リンク

https://arxiv.org/abs/1801.07593

公開日（yyyy/mm/dd）

2018/01/22 AAAI ACM Conference on AI, Ethics, and Society 2018

概要

データセットから分類器が学習してしまったバイアスを修正する手法(adversarial debiasig)を提案。予測精度の最大化と同時に、隠したいラベルの予測精度を最小化する。

[gatheluck]

【問題設定】

• X: input variable
• Y: output variable
• Z: protected variable

Y^ = f(X): predictor

通常はf(X)を通じてZの推定が可能になる。

[gatheluck]

debiasing という単語は以下の論文で提案されている。

• Equality of opportunity in supervised learning, Hardt et al., 2016.
• Data decisions and theoretical implications when adversarially learning fair representations, Beutel et al., 2017.

[gatheluck]

【定義：Demographic Parity】 Y^はY^とZが独立のとき、Demographic Parityを満たすという。 つまり、P(Y^=y^)=P(Y^=y^|Z=z)となる。