RSSMとTSSMの違いについて

[Daikii127]

💪 タスク

RSSMとTSSMの強みをちゃんと理解する

📄 資料

• 2024_world_model_第08回演習_状態空間モデル_exercise.ipynb
• https://github.com/eloialonso/iris

✅ 作業

• [ ] 2024_world_model_第08回演習_状態空間モデル_exercise.ipynbのリバース
• [ ] https://github.com/eloialonso/iris のリバース

🚀 想定作業時間・期限

• 11月29日まで

[Daikii127]

RNN

• 利点

  • 推論プロセスが自然
  • メモリ効率が良い

• 欠点

  • 学習が並列化できない
  • 長距離の依存関係が苦手

Transformer

• 利点

  • 学習が並列化(≒大規模化)可能
  • 長期の依存関係を捉えられる

• 欠点

  • メモリ効率が悪い
  • 逐次生成が遅い