fulfulggg
commented
2 months ago 論文要約
ハイブリッド段階的蒸留スパイキングニューラルネットワークを用いた低遅延イベントベース視覚認識に向けて：論文要約
- 背景: スパイクニューラルネットワーク (SNN) は、低消費電力と脳の神経細胞を模倣した仕組みから注目されています。特に、時間的な情報を持つイベントベースのデータセットに適しています。しかし、従来のSNNは、高い認識精度と低遅延の両立が課題でした。
- 提案手法: 本論文では、Hybrid Step-wise Distillation (HSD) と呼ばれる新しい学習方法を提案。これは、ニューロモーフィックデータセットに特化し、低遅延でも高い認識精度を実現します。
- HSDの仕組み:
- イベントフレームとタイムステップの分離: SNNは、イベントの発生時刻と発生順序を学習します。HSDは、学習時には多くのイベント情報を使用し、認識時には少ない情報で済むように、両者を分離します。これにより、学習時の高精度と認識時の低遅延を両立します。
- 段階的知識蒸留 (SKD) モジュール: 各時間ステップにおけるSNNの出力のばらつきを抑制するため、SKDモジュールを導入。これにより、特に処理時間の短い場合でも、安定した認識精度を達成します。
- 実験結果: 提案手法は、ニューロモーフィックデータセットにおいて、特に低遅延の条件下で、従来手法を上回る認識精度を達成しました。
一言でまとめると: 本研究は、新しい学習方法HSDにより、SNNの低遅延化と高精度化を両立させ、イベントベースの視覚認識におけるSNNの可能性を広げました。
タイトル: ハイブリッド段階的蒸留スパイキングニューラルネットワークを用いた低遅延イベントベース視覚認識に向けて
リンク: https://arxiv.org/abs/2409.12507
概要:
スパイクニューラルネットワーク(SNN)は、その低消費電力と高い生物学的解釈可能性から大きな注目を集めています。豊富な時空間情報処理能力とイベント駆動型という性質から、ニューロモーフィックデータセットに最適です。しかし、現状のSNNでは、これらのデータセットの分類において、精度とレイテンシのバランスをとることが課題となっています。本論文では、ニューロモーフィックデータセット向けに調整されたHybrid Step-wise Distillation (HSD) 法を提案し、低いタイムステップにおけるパフォーマンスの顕著な低下を抑制します。本研究では、SNNのイベントフレーム数とタイムステップの依存関係を分離し、学習段階ではより多くのイベントフレームを利用してパフォーマンスを向上させ、推論段階ではより少ないイベントフレームを使用してレイテンシを削減します。しかし、すべてのタイムステップにおけるSNNの平均出力は、特に極端に低いタイムステップでは、異常な出力を持つ個々のタイムステップの影響を受けやすいです。この問題に対処するため、各タイムステップにおけるSNNの出力分布の変動を考慮したStep-wise Knowledge Distillation (SKD) モジュールを実装します。実験の結果、我々の手法は、特に低いタイムステップにおいて、ニューロモーフィックデータセットの分類タスクにおいて競争力のあるパフォーマンスをもたらすことが実証されました。コードは {https://github.com/hsw0929/HSD} で公開予定です。