人工知能：医療AIがもたらす不均衡なプライバシーリスク
Nature 656, 8126 doi: 10.1038/s41586-026-10688-0
医療用人工知能（AI）モデルは、高品質な診断への世界的なアクセスを改善する可能性を持つ。しかし、これらのモデルの基盤となる訓練データには、患者の機微情報が含まれることが多く、プライバシー攻撃によって情報が漏えいする可能性がある。従来の研究は主に、データセットに含まれる全レコードを対象に、こうした攻撃がどの程度成功するかを集約的に定量化してきた。そのため、訓練データセットに類似する複数のレコードを提供することの多い個々の患者が直面するプライバシーリスクについては、十分に理解されていない。本論文で我々は、医療診断用AIモデルを対象とする、最初期の患者レベルのプライバシー監査の1つを提示する。我々は、特定の個人のデータがモデルの訓練に使用されたかどうかを判定しようとするメンバーシップ推論攻撃（MIA）に着目した。我々は、多様な医療データセット全体で、集約的な攻撃性能がランダム推測とほとんど変わらない場合でも、個々の患者に対するMIAの成功率はほぼ100％に達し得ることを示す。さらに我々は、モデルの容量が大きくなるほど、攻撃成功率の高い患者の数が大幅に増加することを見いだした。また、疾患状態、自己申告による人種、保険加入状況、性別、撮像プロトコルによって層別化すると、データ中で十分に代表されていない集団では、攻撃成功率が不釣り合いに高いことが分かった。まとめるとこれらの知見は、集約的なプライバシー指標は個人のプライバシーリスクを著しく過小評価し得ることを示している。観察された不均衡なリスクプロファイルがMIA以外の攻撃にも及ぶかどうかは未解決の問題であり、このことは、データを提供する全ての患者に対応したリスク評価・軽減手法をさらに開発する必要性を示している。
