マンモグラフィ時系列検査に基づく乳がん診断モデルの敵対的攻撃に対する脆弱性

[fulfulggg]

タイトル: マンモグラフィ時系列検査に基づく乳がん診断モデルの敵対的攻撃に対する脆弱性

リンク: https://arxiv.org/abs/2411.00837

概要:

乳がんの検出と診断において、マンモグラフィ画像の経時的な解析は非常に重要です。現在のモデルは経時的な画像特徴の変化の検出に優れており、連続した画像検査を通して学習プロセスを向上させています。しかし、これらの経時的モデルの敵対的攻撃に対する耐性は十分に研究されていません。本研究では、経時的モデルの2回の連続したマンモグラフィ検査間の特徴レベルの関係を利用し、クロスエントロピー損失と距離メトリック学習の両方によって導かれる新しい攻撃手法を提案しました。この手法は、ブラックボックス攻撃方式で攻撃転移を用いることで、高い攻撃効率を実現します。症例対照設定で、590人の乳がん患者（それぞれ2回の連続したマンモグラフィ検査を受けている）のコホートを用いて実験を行いました。結果は、提案手法が、診断モデルを騙して逆の出力を得させる点で、いくつかの最先端の敵対的攻撃手法を上回ることを示しました。私たちの方法は、モデルが一般的な防御手法である敵対的学習で訓練されている場合でも有効でした。

[fulfulggg]

@yukihiko-fuyuki が以下のラベルを提案し、適用しました：

• adversarial-learning
• medical-imaging
• robustness

[fulfulggg]

論文要約

• マンモグラフィ画像の時系列データを使った乳がん診断AIモデルは、わずかな画像改変（敵対的攻撃）で誤診させられる可能性があることを示した研究。
• 時間の経過に伴うマンモグラフィ画像の変化に着目した診断AIモデルに対し、新たな攻撃手法を開発。
• この攻撃手法は、2回のマンモグラフィ検査画像間の関係性を悪用し、AIモデルを騙して誤った診断結果を出させる。
• 攻撃は「ブラックボックス」方式で行われ、攻撃の詳細な仕組みを知らなくても実行可能。
• 590人の患者データを用いた実験で、既存の攻撃手法よりも高い成功率でAIモデルを欺くことに成功。
• AIモデルが敵対的攻撃への防御策を学習済みの場合でも、この攻撃手法は有効だった。

簡単に言うと、この研究は、時間経過を追ったマンモグラフィ画像で乳がんを診断するAIのセキュリティ上の弱点を発見し、その弱点を突く攻撃方法を開発した、という内容です。この攻撃はAIの仕組みを知らなくても実行でき、防御策を講じていても効果があるため、AIの安全性を高めるためのさらなる研究が必要であることを示唆しています。