健康科学：医療用AIモデルがもたらすプライバシー上のリスク
Nature
医療用人工知能（AI：artificial intelligence）モデルの学習にデータが利用された個人は、サイバー攻撃によって身元が特定されるリスクにさらされる可能性があることを報告する論文が、今週のNature にオープンアクセスで掲載される。この研究は、過小代表の集団が、データが侵害されるリスクに不均衡にさらされる可能性を示唆している。研究者らは、こうした個人が現行のリスク評価において十分に考慮されていないことを指摘し、さらなるリスク軽減策および厳格なアクセス制御の必要性を訴えている。
医療用AIモデルは、特に専門的な知見が得られない地域において、世界的な医療成果の向上に寄与する可能性がある。しかし、これらのモデルの学習に使用される機密データは、プライバシー攻撃にさらされる恐れがある。攻撃者は、「メンバーシップ推論攻撃（MIA：Membership inference attacks）」を用いて、個人のデータがモデルの学習に使用されたかどうかを特定しようとする。こうした攻撃により、患者の医療データや個人情報が特定されてしまう可能性がある。これまでのデータリスクに関する研究は、データセット全体を基準としており、個人単位のリスクは考慮されていなかった。
Moritz Knolleら（ミュンヘン工科大学〔ドイツ〕）は、個人のプライバシーリスクに焦点を当てたプライバシー監査を実施し、医療AIモデルがデータ提供者個人に対してプライバシーリスクをもたらす可能性があることを明らかにした。医療画像、心電図、および電子健康記録など、実世界の臨床データで構成される7つの大規模データセットを用いて、著者らはデータ提供患者の中で最も脆弱な層を特定した。その結果、個人レベルでは、MIA（画像プライバシー攻撃）の標的となった対象者に対し、ほぼ誤りなく攻撃が成功したことが判明した。集団レベルでは、データセット内で過小代表と特定されたグループには、希少疾患を持つ人々、人種的少数派や社会経済的に不利な立場にある人々、あるいは少数派の性別を持つ人々が含まれていた。AIモデルによってより識別的に符号化されたデータを用いるほど、これらのグループや個人はより脆弱であり、プライバシー攻撃に不均衡にさらされることが示された。著者らは、MIA攻撃の成功事例が、モデルの処理能力や規模の増加にともない、増加する傾向があることを明らかにした。
これらの知見は、MIAのようなプライバシー攻撃が、現在考えられているよりも個人レベルでの標的特定において効果的であることを示している。著者らは、プライバシーリスク評価において個人のリスクを考慮に入れる必要があり、脆弱なモデルをさらに保護すべきであると結論づけている。
- Article
- Open access
- Published: 24 June 2026
Knolle, M.A., Menten, M.J., Jungmann, F. et al. Disparate privacy risks from medical AI. Nature (2026). https://doi.org/10.1038/s41586-026-10688-0
Nature Podcast: Medical records could be revealed by AI training-data vulnerability
https://www.nature.com/articles/d41586-026-02032-3
Individuals whose data are used to train medical artificial intelligence (AI) models may be at risk of being identified in cyber-attacks, according to a Nature paper published this week. Underrepresented groups may face disproportionately higher risks of having their data compromised, the study indicates. The researchers find these individuals are not accounted for in current risk assessments and call for further mitigation and strict access control.
Medical AI models may improve global health outcomes, especially in areas in which specialized expertise is not available. Yet, the sensitive data used to train these models may be exposed to privacy attacks. Membership inference attacks (MIAs) are used by attackers to determine whether an individual’s data were used to train a model. From these attacks, a patient’s medical data and private information can be determined. Previous research on data risk has been determined by whole datasets, and does not take an individual’s risk into account.
Moritz Knolle and colleagues conduct a privacy audit to focus on individual privacy risk, finding that medical AI models may pose a privacy risk to individual data contributors. Using seven large datasets made up of real-world clinical data, including medical images, electrocardiograms and electronic health records, the authors determine the most vulnerable among data-contributing patients. They find that at an individual level, those targeted by the MIAs were successfully done so with almost no error. At a group level, those identified as underrepresented in datasets include people with rare diseases, people from a minority racial group or, socioeconomic status, or those having the less-common gender. With more distinctive data that are encoded by AI models, these groups and individuals are found to be more vulnerable and disproportionately exposed to privacy attacks. The authors find the instances of successful MIAs attacks rise with model capacity and size.
These findings show privacy attacks, such as MIAs, are more effective at successfully targeting on an individual level than currently thought. The authors conclude that privacy risk assessment must now take individual risk into account, and vulnerable models be further protected.
- Article
- Open access
- Published: 24 June 2026
Knolle, M.A., Menten, M.J., Jungmann, F. et al. Disparate privacy risks from medical AI. Nature (2026). https://doi.org/10.1038/s41586-026-10688-0
Nature Podcast: Medical records could be revealed by AI training-data vulnerability
https://www.nature.com/articles/d41586-026-02032-3
doi: 10.1038/s41586-026-10688-0
「Nature 関連誌注目のハイライト」は、ネイチャー広報部門が報道関係者向けに作成したリリースを翻訳したものです。より正確かつ詳細な情報が必要な場合には、必ず原著論文をご覧ください。
