機械学習：倫理的なAIベンチマーキングのための公正な人間を中心とした画像データセット
Nature 648, 8092 doi: 10.1038/s41586-025-09716-2
コンピュータービジョンは、自動運転車から家庭用機器まで、多くの人工知能（AI）アプリケーションの中心となっている。しかし、そうした技術革新を支えるデータは、倫理的問題が十分考慮されずに収集されることが多い。このことが、多様性に欠け、バイアスを残し、データの権利保有者の同意を得ずに収集されたデータセットへの依存につながった。こうしたデータセットによって、AIモデルの公正性と正確性が損なわれ、ステークホルダーに不利益が生じている。コンピュータービジョン技術、特に顔認識におけるバイアスの問題が広く知られるようになっているが、この分野には、大半のタスクのバイアスを評価するのに用いることのできる、同意に基づいて収集された公開データセットが不足している。今回我々は、これに応えて、同意、プライバシー、報酬、安全性、多様性、実用性についてベストプラクティスを実装した公開人物画像データセットFHIBE （Fair Human-Centric Image Benchmark、フィービー）を提示する。FHIBEは、ポーズ推定、人物セグメンテーション、顔の検出・認証、視覚的質問応答など、人間を中心とした多くのコンピュータービジョンタスクに、公正性評価のデータセットとして責任ある形で使用できる。FHIBEは、人口統計学的属性、身体的属性、環境要因、計器、ピクセルレベルのアノテーションを取り込んだ包括的なアノテーション情報を活用することによって、さまざまなバイアスを特定できる。これらのアノテーションはまた、よりきめ細かくニュアンスを捉えたバイアス診断も可能にするため、実務者はバイアスの源をより良く理解し、下流での潜在的な害を軽減できるようになる。従ってFHIBEは、信頼できるAIへの重要な一歩となり、公正性ベンチマークの水準を引き上げるとともに、AIにおける責任あるデータキュレーションへのロードマップをもたらす。
