人工知能：人工知能への委任は不正行為を増やす可能性がある

人工知能は、タスクを機械に委任することで得られる生産性の向上を可能にするが、非倫理的行動の委任を容易にする可能性がある。このリスクは、「エージェント型」人工知能システムが急増する中で、非常に重要な問題である。今回我々は、人間のプリンシパルが機械のエージェントに対して、不正へのインセンティブがあるタスクを実行するよう指示する手法によって、このリスクを実証する。プリンシパルが教師あり学習や高レベルの目標設定によって、機械にタスク内容を正確に伝えることなく機械の不誠実さを誘導できる場合、不正行為の要求が増加した。こうした影響は、委任が自発的か強制的かにかかわらず成立した。我々はまた、自然言語を介した大規模言語モデルへの委任についても検証した。プリンシパルによる不正の要求に対して、必ずしも機械のエージェントの方が人間のエージェントよりも多く実行したわけではないが、遵守状況ははっきりと乖離した。完全に非倫理的な指示を実行する確率は、人間エージェントよりも機械の方がはるかに高かったのである。この遵守は、タスク特異的な抑制的ガードレールを導入することで制限はできるが、通常は完全に排除することはできなかった。我々の結果は、ますます利用しやすく強力になる機械委任の状況における倫理的リスクを浮き彫りにしており、それを軽減するための設計と方針戦略を示唆している。

目次へ戻る