Cover Story：真偽の検証：AIが年齢や性別に対するゆがんだ認知をいかに助長するか

世界に対する我々の認知は、オンラインメディアの影響をますます受けるようになっており、それが社会的なステレオタイプを永続させて、我々の見解にバイアスを生じさせる可能性がある。人工知能（AI）の台頭、特にオンラインコンテンツで訓練された大規模言語モデル（LLM）の登場で、このようなゆがみの影響がさらに強まるのではないかという懸念が生じている。今週号ではD Guilbeaultたちが、そのような懸念が妥当であることを示す証拠を提示している。研究者たちは、主要な5つのオンラインプラットフォームの約140万点の画像を解析し、さまざまな職業において男女がどのように表象されているかを調べた。彼らは、実社会の労働力に体系的な差が存在しないにもかかわらず、あらゆる職業・社会的役割において女性が男性より若く表現されていることを見いだした。研究チームは次に、ChatGPTに4万件の履歴書を作成するよう指示したところ、ChatGPTもまた、女性を男性より若く表現した。そしてChatGPTにこれらの履歴書の評価を求めると、ChatGPTは、年長の男性候補者を若い女性応募者よりも質が高いと評価した。この結果は、年長の男性が成熟していて権威があり、経験豊富であると見なされる一方で、女性は若くて魅力的であることが評価されるという、既存の性別に基づくステレオタイプを浮き彫りにしている。またAIモデルは、訓練時にバイアスを除去する努力がなされているにもかかわらず、そうしたステレオタイプを永続させ続ける可能性があることを示唆している。

目次へ戻る