社会科学：人工知能は人々の方言に基づいて人種差別的な判断をひそかに下している
Nature 633, 8028 doi: 10.1038/s41586-024-07856-5
現在では何億人もの人々が言語モデルと関わっており、その用途は文章作成支援から採用決定の情報源まで多岐にわたる。しかし、これらの言語モデルは、体系的な人種的偏見を永続させることが知られており、アフリカ系アメリカ人などの集団について、問題のあるやり方によって偏った判断をもたらす。これまでの研究では、言語モデルにおける明確な人種差別が着目されてきたが、社会科学者たちによれば、とりわけ公民権運動後のアメリカでは、より捉えにくい性質の人種差別が徐々に形成されてきたとされている。こうしたひそかな人種差別が言語モデルに現れるのかどうかは不明である。本論文で我々は、言語モデルが方言に対する偏見という形でひそかな人種差別を具現しており、アフリカ系アメリカ人英語（AAE）の話者について、これまで実験的に記録されてきた、アフリカ系アメリカ人に対して人間が持ついかなるステレオタイプよりも否定的な人種言語学的ステレオタイプを示すことを実証する。対照的に、言語モデルのあからさまなアフリカ系アメリカ人ステレオタイプは、もっと肯定的であった。方言に対する偏見は有害な結果をもたらす可能性があり、言語モデルは、AAE話者について、名声の高くない職、有罪判決、死刑宣告への割り当てを示唆する傾向が高かった。さらに我々は、言語モデルで人種的偏見を軽減するために現在行われている人の選好性アラインメントなどは、言語モデルがより深いレベルで保持している人種差別を表面上で不明瞭化させることにより、ひそかなステレオタイプとあからさまなステレオタイプの間の相違をさらに大きくすることを示す。我々の知見は、言語技術の公正で安全な使用に対して広範囲に及ぶ意味を持つものである。
