Learning Human-like Representations to Enable Learning Human Values

[mei28]

---

id: learning-human-like-representations-to-enable-learning-human-values aliases:

• Learning Human-like Representations to Enable Learning Human Values tags:

• TSUNDOKU

Learning Human-like Representations to Enable Learning Human Values

🔑この論文のキーメッセージ

• 機械に人間の価値観を教えるのに、表現アライメントが有用であることを強化学習によって、実験的に示した。

🎓どういう問題に取り組んだのか

• 人間の価値観や目的にそったAIシステムを作るには、どうすればいいのか？

🎓その問題に取り組むことがなぜ重要なのか

• 機械学習モデルが協力になってきている一方で、人間にとって許容できないことがある。
  • 既存研究では、人間の価値によってアライメントすることが行われている。
• 本研究では、価値アライメントを実現するために、必要な条件の特定を試みる。
  • 最近の研究でば、人間のような表現を獲得することが、モデルの汎化性能と頑健性に有用であることが知られている。
• そこで本研究では、価値アライメントに表現アライメントに有用であることを示す。

💡問題解決に向けたキーアイデアは何か

• 人間の価値観として、倫理を焦点にする。
• エージェントが、100種類の行動が取れるcontext multi armed banidt問題を取り組む。
• 報酬を選択された行動に対して定義する。具体的には、倫理的な行動を行った時、3点、悪い行動したら-2、関係のない行動をすると0がもらえる。
• 機械の行動は、SVMとKernel Regressionの2種類を用意。

👀新たに分かったことは何か

• 本実験は、簡単な設定で実験を行っているが、実世界のAIシステムはもっと複雑なため一般かはできない。
• 人間と機械学習エージェントの間の表現アライメントの関数として、バリューアライメントに境目があることを示した。

コメント

次はなに読む？

論文リンク

http://arxiv.org/abs/2312.14106

著者/所属機関

Wynn, Andrea; Sucholutsky, Ilia; Griffiths, Thomas L

投稿日付(yyyy/MM/dd)

AAAI2024