社会科学：大規模言語モデルにおける道徳的能力評価のためのロードマップ

大規模言語モデル（LLM）が道徳的な能力を発揮できるかどうかという問いについては、こうした系が、親交や医療助言などのセンシティブな役割に展開され、人間の代わりに意思決定や行動を担う場面がますます増えると考えられることから、関心と喫緊性が高まっている。こうした動向から、単なる道徳的遂行（moral performance）、つまり道徳的に適切な出力を生み出せる力の評価を超えて、道徳的能力（moral competence）、つまり道徳的に関連する考慮に基づいて道徳的に適切な出力を生み出せる力の評価への移行が必要である。道徳的能力の評価は、将来のモデルの挙動を予測し、適切な公衆の信頼を確立し、道徳的帰属を正当化するために不可欠である。しかし、LLMの固有のアーキテクチャーと道徳性そのものの複雑さの両方が、根本的な課題を招いている。今回我々は、そうした3つの課題を突き止めた。すなわち、モデルが真の理解なしに推論を模倣し得るという模写問題、道徳的判断が文脈依存的な関連する多様な道徳的そして非道徳的考慮に影響されるという道徳的多次元性、そして、世界規模で展開される人工知能に向けた新基準を要求する道徳的多元主義である。我々は、これらの課題に取り組むためのロードマップを提示し、より科学的根拠に基づいた理解、ひいてはLLMに対するより責任ある道徳的能力の帰属に向けて取り組むのを可能にする、一連の敵対的評価と確認的評価を提唱する。

目次へ戻る