Microscopic-Mamba：わずか4Mのパラメータで顕微鏡画像の秘密を解き明かす

[fulfulggg]

タイトル: Microscopic-Mamba：わずか4Mのパラメータで顕微鏡画像の秘密を解き明かす

リンク: https://arxiv.org/abs/2409.07896

概要:

arXiv:2409.07896v1 発表タイプ: 新規 概要: 医療用顕微鏡画像分類 (MIC) の分野では、CNN ベースおよび Transformer ベースのモデルが広く研究されてきました。しかし、CNN は長距離依存性のモデリングに苦労しており、画像内の意味情報を十分に活用する能力が制限されています。逆に、Transformer は、二次計算の複雑さによって妨げられています。これらの課題に対処するため、Mamba アーキテクチャに基づくモデルである Microscopic-Mamba を提案します。具体的には、Visual State Space Module (VSSM) の最後の線形層を置き換える Partially Selected Feed-Forward Network (PSFFN) を設計し、Mamba のローカル特徴抽出機能を強化しました。さらに、グローバル機能とローカル機能を効果的に調整および動的に集約するために、Modulation Interaction Feature Aggregation (MIFA) モジュールを導入しました。また、パラメータ数を削減しながら、チャネル間情報相互作用を改善するために、並列 VSSM メカニズムを組み込みました。広範な実験により、私たちのメソッドが 5 つの公開データセットで最先端のパフォーマンスを達成することが実証されました。コードは https://github.com/zs1314/Microscopic-Mamba で入手できます。

[fulfulggg]

@yukihiko-fuyuki が以下のラベルを提案し、適用しました：

• image-classification
• medical-imaging
• efficient-ml

[fulfulggg]

論文要約

Microscopic-Mamba：わずか4Mのパラメータで顕微鏡画像の秘密を解き明かす - 論文要約

従来の課題:

• 医療用顕微鏡画像分類 (MIC) では、CNN と Transformer が主流だが、それぞれ課題を抱えている。
  • CNN: 画像全体の意味情報を捉えきれない。
  • Transformer: 計算コストが膨大。

Microscopic-Mamba の提案:

• 少ないパラメータ (4M) で高精度な MIC を実現する新しいモデルを提案。

具体的な改善点:

• Mamba アーキテクチャの改良:
  • PSFFN の導入: Mamba のローカル特徴抽出能力を向上。
  • MIFA モジュールの導入: グローバル特徴とローカル特徴を効果的に統合。
• 並列 VSSM メカニズムの導入: 少ないパラメータで、チャネル間の情報伝達を強化。

成果:

• 5つの公開データセットで最高精度を達成。
• コードは公開済み (https://github.com/zs1314/Microscopic-Mamba)。