人工知能：説明可能な深層学習は自動運転車に関する人間のメンタルモデルを改善する
Nature 657, 8130 doi: 10.1038/s41586-026-10950-5
自動運転車は、人間が行うような運転を実現するため、深層ニューラルネットワークにますます依存するようになっている。こうしたブラックボックス型のプランナーは内部が不透明であるため、それらがいつ失敗するかを正確に予測することが難しく、そうした失敗は場合によっては壊滅的な結果を招きかねない。これらのシステムを解釈する研究は急増しているものの、実世界での展開が難しいため、ほとんどの研究はシミュレーションまたは単純化された実験環境に限定されている。従って、これらの技術が実用上どの程度有用なのかは分かっていない。本論文で我々は、機械学習ベースのプランナーの推論を、人間が解釈可能な概念に因果的に結び付けて、性能を犠牲にすることなくその挙動を忠実に説明する手法であるConcept-Wrapper Network（CW-Net）を提示する。CW-Netを実際の自動運転車に搭載したところ、そこから得られる説明が、車両に関して人間の運転者が持つメンタルモデルを改善することが分かった。これにより運転者は、特に予想外の状況において、車両の挙動をより的確に予測できるようになった。この結果は、自動運転車に組み込まれた説明可能な深層学習が、現実に即した展開環境において人間に理解可能であると同時に有用であり得ることを実証している。今回の手法は、自律型ドローンやロボット手術システムなど、安全性が極めて重要な他のシステムに加え、エンドツーエンド学習システムや視覚–言語–行動モデルなど、他のアーキテクチャーにも適用できると期待される。まとめると本研究は、自律エージェントの解釈可能性を実現する、現実環境での展開によって検証済みの道筋を確立するものであり、自律エージェントの透明性と安全性を高める一助となり得る。
