交通ルールに違反した方法で道路を横断している歩行者がいる。自動車のドライバーがその歩行者との衝突を回避するために急ブレーキを踏むとき、ドライバーは歩行者のリスクを車中の人々に転嫁する道徳的な判断をしていることになる。近い将来、自動運転車はそうした倫理的判断を自力で行うことを迫られるようになるかもしれない。しかし、自動運転車が従うべき普遍的な道徳律を決めるのは非常に困難と思われることが、全世界の230万人が参加した調査の結果から示された。

Nature 2018年10月25日号に掲載された論文¹は、これまでで最大規模の機械倫理学調査の結果であり、ドライバーの判断の基礎となる道徳的原則は国ごとに異なることを明らかにしている。例えば、ある組み合わせの歩行者と乗客について、どちらかの衝突死を避けられないというシナリオでは、比較的豊かで、法執行機関など「法の支配」が強い国ほど、交通ルールに違反して道路を横断する歩行者をよけるとする回答の割合が低かった。

論文責任著者の1人であるマサチューセッツ工科大学（MIT；米国ケンブリッジ）のコンピューター科学者Iyad Rahwanは、「機械倫理について考える人々は、ロボット向けの完璧なルールを考案できると主張していますが、私たちの今回のデータは、普遍的なルールなどないことを示しています」と言う。

「モラル・マシン（Moral Machine）」と名付けられたこの調査では、誰かの死を避けられない13のシナリオが提示される。回答者は、若者か高齢者か、裕福な人か貧しい人か、大勢の人か少数の人か、ペットか人か、など、いくつかの変数が混ざった状況において、誰の（どちらの）命を助けるかを判断するよう求められる。

人間がこれほど厳しい道徳的ジレンマに遭遇することはめったにないため、今回の調査で提示されたシナリオは自動運転車を巡る道徳的問題として適切なのかと批判する声もある。これに対して論文著者らは、提示されるシナリオはドライバーが日常的に行っている微妙な道徳的判断の代わりになるものだと反論する。今回の研究結果は、自動運転車を市民に受け入れてもらいたいと考える各国政府やメーカーは、文化ごとの微妙な差異を考慮する必要がある、ということを明らかにしたものだと研究チームは言う。

エール大学（米国コネティカット州ニューヘイブン）の社会科学者Nicholas Christakisは、「注目に値する論文です」と評価する。道徳が普遍的なものなのか、それとも文化によって異なるものなのかという古くからある論争が、今回、自動運転車をどのようにプログラムするべきかという「21世紀の問題」によって再び活性化したと彼は言う。

現在、自動運転車プログラムは、グーグル、ウーバー、テスラなど世界的なテクノロジー企業のいくつかと自動車メーカー各社によって進められている。こうした企業の多くが、自動運転車は交通安全を高め、交通渋滞を緩和すると主張するが、社会科学者たちは、自動運転車は複雑な倫理的問題を提起すると指摘する。

Rahwanのチームは2016年、自動運転車を巡る逆説に遭遇した²。自動運転車に関する調査を行った彼らは、人々が、自動運転車の乗客を犠牲にすることになっても歩行者が守られることを期待しつつも、そのようにプログラムされた自動運転車を自分が購入することはないだろうと考えていることを明らかにしたのだ。

自動運転車の実用化の見通しが、この他にも倫理的難問を提起するかどうかを確認したいと考えたRahwanは、心理学者と人類学者と経済学者を集めてオンライン調査サイト「モラル・マシン」を制作した（日本語サイト：moralmachine.mit.edu/hl/ja）。このサイトの立ち上げから18カ月以内に、233の国と地域の人々から10の言語で4000万回の判断データが記録された。

年齢、性別、居住地を問わず、ほとんどの人がペットより人間をよけ、1人より複数の人をよけることを選んだ。こうした回答は、ドイツの「自動運転車とコネクテッドカーに関する倫理委員会」の2017年の報告書が提案するルール（政府が定めた自動運転車の倫理指針はこれが唯一だと思われる）と一致している。

各国の人々の考え方が一致するのはここまでだ。回答者が100人以上いた130カ国の人々の回答を分析した著者らは、世界の国々を3つのグループに分類できることに気付いた（「道徳のコンパス」参照）。第1のグループは、北米と一部の欧州諸国の他、歴史的にキリスト教が支配的な国々である。第2のグループは、日本、インドネシア、パキスタンなど、儒教またはイスラム教の影響が強い国々だ。第3のグループは、中南米諸国とフランスおよび旧フランス植民地である。例えば、第1のグループは第2のグループに比べて、若い人を救うために高齢者を犠牲にする傾向が強かった。

すでに米国のいくつかの都市では自動運転試験車両が走り回っている。少なくとも5つのメーカーが、2021年までに自動運転の乗用車とトラックを広く利用できるようにしたいとしている。

サウスカロライナ大学（米国コロンビア）の法律学教授Bryant Walker Smithは、ドライバーが2種類の人々のどちらかを選んで衝突することを迫られるような事例は実生活ではほとんどないため、今回の研究は現実的でないと批判する。「隕石が落ちてきた場合に自動運転車がどのように対応するべきかを心配するようなものです」。

しかし、アウディ社（ドイツ・インゴルシュタット）で自動運転車の倫理学に取り組むチームを率いるBarbara Wegeは、このような研究には価値があると言う。Wegeは、車両の割合からして、自動運転車が起こす事故の件数は人間のドライバーが起こすものより少ないだろうが、ロボットが関与する事故は注目されやすいかもしれないと言う。

モラル・マシンなどの調査は、避けることのできない事故について市民の議論を促し、これにより自動運転車への信用を醸成できる可能性がある。「どのリスクを取るかについて、社会的コンセンサスを形成する必要があります」とWegeは言う。

翻訳：三枝小夜子