hakubishin3
commented
3 years ago Biases in AI Systems - A survey for practitioners
https://queue.acm.org/detail.cfm?id=3466134
データセット作成、問題設定、データ分析、評価の各フェイズで発生しうるバイアスをまとめている.
- データセット作成に関連するバイアス
- Sampling Bias (白人がやけに多いとか)
- Measurement Bias (Capture Bias, Device Bias)
- Label Bias (アノテーション, 確証バイアス, ピークエンド効果)
- Negative Set Bias (代表的なクラス以外を少数のクラスもしくはサンプルで表すことで生じる偏り)
- 問題設定に関連するバイアス
- Framing Effect Bias (問題設計によっては得られる結果が異なり偏ったものになる)
- データ分析やアルゴリズムに関連するバイアス
- Sample Selection Bias (無作為ではなく何らかの条件付けで抽出することで発生する偏り)
- Confounding Bias (交絡)
- Design-related Bias (アルゴリズムやUI起因)
- 評価に関連するバイアス
- Human Evaluation Bias (定性評価とか)
- Sample Treatment Bias (評価できるデータと評価できないデータでは偏りがあるかもね)
- Validation and Test Dataset Bias (データセット作成段階のバイアスが影響)
Why
Machine Learning 輪講は最新の技術や論文を追うことで、エンジニアが「技術で解決できること」のレベルをあげていくことを目的にした会です。
prev. #103
What
話したいことがある人はここにコメントしましょう！ 面白いものを見つけた時点でとりあえず話すという宣言だけでもしましょう！