健康科学：医療用AIモデルがもたらすプライバシー上のリスク

医療用人工知能（AI：artificial intelligence）モデルの学習にデータが利用された個人は、サイバー攻撃によって身元が特定されるリスクにさらされる可能性があることを報告する論文が、今週のNature にオープンアクセスで掲載される。この研究は、過小代表の集団が、データが侵害されるリスクに不均衡にさらされる可能性を示唆している。研究者らは、こうした個人が現行のリスク評価において十分に考慮されていないことを指摘し、さらなるリスク軽減策および厳格なアクセス制御の必要性を訴えている。

医療用AIモデルは、特に専門的な知見が得られない地域において、世界的な医療成果の向上に寄与する可能性がある。しかし、これらのモデルの学習に使用される機密データは、プライバシー攻撃にさらされる恐れがある。攻撃者は、「メンバーシップ推論攻撃（MIA：Membership inference attacks）」を用いて、個人のデータがモデルの学習に使用されたかどうかを特定しようとする。こうした攻撃により、患者の医療データや個人情報が特定されてしまう可能性がある。これまでのデータリスクに関する研究は、データセット全体を基準としており、個人単位のリスクは考慮されていなかった。

Moritz Knolleら（ミュンヘン工科大学〔ドイツ〕）は、個人のプライバシーリスクに焦点を当てたプライバシー監査を実施し、医療AIモデルがデータ提供者個人に対してプライバシーリスクをもたらす可能性があることを明らかにした。医療画像、心電図、および電子健康記録など、実世界の臨床データで構成される7つの大規模データセットを用いて、著者らはデータ提供患者の中で最も脆弱な層を特定した。その結果、個人レベルでは、MIA（画像プライバシー攻撃）の標的となった対象者に対し、ほぼ誤りなく攻撃が成功したことが判明した。集団レベルでは、データセット内で過小代表と特定されたグループには、希少疾患を持つ人々、人種的少数派や社会経済的に不利な立場にある人々、あるいは少数派の性別を持つ人々が含まれていた。AIモデルによってより識別的に符号化されたデータを用いるほど、これらのグループや個人はより脆弱であり、プライバシー攻撃に不均衡にさらされることが示された。著者らは、MIA攻撃の成功事例が、モデルの処理能力や規模の増加にともない、増加する傾向があることを明らかにした。

これらの知見は、MIAのようなプライバシー攻撃が、現在考えられているよりも個人レベルでの標的特定において効果的であることを示している。著者らは、プライバシーリスク評価において個人のリスクを考慮に入れる必要があり、脆弱なモデルをさらに保護すべきであると結論づけている。

• Article
• Open access
• Published: 24 June 2026

Knolle, M.A., Menten, M.J., Jungmann, F. et al. Disparate privacy risks from medical AI. Nature (2026). https://doi.org/10.1038/s41586-026-10688-0

Nature Podcast: Medical records could be revealed by AI training-data vulnerability
https://www.nature.com/articles/d41586-026-02032-3

doi: 10.1038/s41586-026-10688-0

「注目の論文」一覧へ戻る