ヘルスケア：ヘルスケアにおける大規模言語モデルの安全性とセキュリティー

人工知能（AI）手法の臨床ケアへの統合が、生成AI、とりわけ大規模言語モデル（LLM）の進歩に牽引されて急速に進んでいる。大量のテキストで訓練されたLLMは、ヘルスケアのほぼ全ての領域にわたってその可能性が示されている。しかし、その幅広い適用可能性には新たな責任、脆弱性、脅威が伴い、これらの課題は臨床で広く導入される前に評価され、軽減されなければならない。本総説で我々は、LLM自体のセキュリティーと安全性に加え、LLMと病院の業務フローの統合、そしてLLMと人間の医療提供者の間の相互作用について、利用可能な文献を概観する。我々は、セキュリティー上の危険を、臨床AIシステムの各開発段階（設計、データ、モデル、推論、環境）に体系的にマッピングし、中核となる最適化目標や知識の完全性・アラインメントから、人間やシステムとの相互作用まで、安全性を構成する各層を特定して、一連の脅威を現在の臨床的関連性に基づいて分類する。さらに我々は、現在の軽減技術についての展望を示し、各ステークホルダーが担う責任を明らかにする。

目次へ戻る