究極の自動運転技術は“トロッコ問題”にどう対応するのか?【自律自動運転の未来 第19回】


 自動運転技術の最前線情報をお届けする本連載、第19回となる今回は「トロッコ問題」について。たとえば自動運転技術が搭載されているクルマの前方に幼稚園児の列が歩いていて、咄嗟にハンドルを切ればクルマは谷底に落ちてドライバーは間違いなく死ぬが幼稚園児は全員助かる…といった場面が訪れたとき、クルマに搭載された機能はどう判断するのか。

 自動運転技術の実用化が近づく現代になって、こうした倫理学上の問題が浮上してきたわけだが、では2021年の現時点で、この問題はエンジニアたちのあいだでどう語られているのか。最前線の議論を紹介します。

文/西村直人
写真/Adobe Stock(アイキャッチ写真は@bluedesign)、illustAC

シリーズ【自律自動運転の未来】で自動運転技術の「いま」を知る

■「乗員を守るため、歩行者との衝突事故はやむを得ない」

「自動運転技術を搭載した車両が狭い道路を走行中、道路の左脇に2名、右脇に1名が歩いていたとする。このとき、何らかの理由でどちらかにステアリングを切らなければいけない場合、システムはどちらに舵を切るのか……」。

 これが俗に言う「トロッコ問題」と言われるテーマです。二者択一を自動運転システムが迫られた場合、どちらのリスクをシステムはとるのかというお話です。このテーマについては、各国の学識者や自動車メーカーの技術担当者から意見が寄せられています。

このまま進めば多くの人を轢いてしまう。左に切り替えれば轢くのは一人ですむ。こうした判断を機械がすることとなったとき、機械にどう判断させるのか、またその責任は誰が負うのか。これがいわゆる「トロッコ問題」(イラスト@ありなか本舗)

 そのひとつ、メルセデス・ベンツの担当者は次のように語ります。

 2016年10月、メルセデス・ベンツの自動運転技術と安全技術を開発している担当者は、「自動化レベル4以上の自動運転技術を搭載したメルセデス・ベンツでは、乗員を守るため、歩行者との衝突事故はやむを得ない可能性がある」という趣旨のメッセージを発し話題となりました。

 これには表面的な部分だけを切り取った否定的な意見も散見されましたが、当時、筆者はとても高く評価しました。

 なぜならば、人命に関わる倫理観や安全哲学は、この先の自動運転技術を決める上で重要になると考えたからです。また、近い将来の自動運転社会に対する問題提起が発言の根幹であるならば、本格的な普及を迎えるこのタイミングでの発言には大いなる意義がありました。

 確かに、衝突事故は歩行者にとって致命傷となる可能性が高く、一方で乗員を守る責務がシステムには課せられています。よって、担当者の「やむを得ない」という発言は乗員保護の観点から見れば正論であり、歩行者側からすればあり得ない発言です。

 しかし、実際の交通環境では急に飛び出す歩行者、ルールに従わない車両などが後を絶たないため、残念ながら事故はゼロになりません。その意味で、究極の二者択一的な議論は前もって行っておくことが重要です。

 先の担当者は「乗員を守る」と発した後、こう続けています。

「あらゆる手段(車両制御)を講じて衝突回避に向かいながら、それでも衝突が避けられない場合は、最後の一瞬まで被害を軽減するまで速度を落とし続け、さらに万が一衝突してしまった場合でも、歩行者の被害が軽減するような車体設計をとることで人命を守っていく。そうした自動運転技術と安全な車体設計の組み合わせを目指すことが我々の使命だ」と。

 これこそ、人命第一の倫理観をもって技術開発に取り組む自動車メーカーの真摯な姿です。

■自動運転はそもそも「二択」に陥らないための技術

 事故は誰もが避けたいものであるし、その実現のため自動車メーカーは先進安全技術の数々を開発し続けています。これは紛れもない事実です。また、こうした倫理観を議論することは自動運転技術に対する“社会的受容性”を形成する上でも大切です。

 2016年には9月(法工学専門会議主催)と12月(日本機械学会 交通・物流部門主催)の2回に渡り、自動化レベル3以上の技術を実装する自動運転車両が関連する交通事故に対して、現職の弁護士などによる「模擬裁判」がはじめて開かれました。

 ここでは現行の自動車損害賠償保障法の適用可能性や、製造物責任法における欠陥、さらには誰がどのような理由で事故の責任を負うかなどが議論されています。もっとも、こうした議論はいくら積み重ねてもなかなかひとつの意見にまとまらず、現在でも議論は継続されています。

すでに「レベル3」までは公道で実現している自動運転技術。トロッコ問題は技術の実用化にともない、さらに切実に議論されている

 冒頭のトロッコ問題に対して、筆者はこう考えます。

 例えば自動化レベル5の自動走行が実現したとします。レベル5ですから自動走行にはレベル3のようなドライバーへの運転再開要求であるTORはありません。走行条件に制約がつかず、いつでもどこでも自動走行が理論上は可能です。

 また、緊急時に運転再開が望まれる場合であっても、同乗者に頼ることなくリモート監視された係員の手により運転が継続され安全運転が担保されます。

 そのような高度なレベル5が実用化できる技術レベルに社会があるならば、「AかBか」という二者択一を即座に迫られる可能性は少ないのではないか……。これは25年間、取材させていただいた技術者の発言内容とも一致します。

 具体的に、別の角度から時間軸を交えて考えてみます。

 真っ直ぐな道路が二股に分かれ、その先にそれぞれAとBという甲乙付けがたい危険因子がある、そうした場面にレベル5のシステムによって自動走行を行っている車両が遭遇したとします。

 レベル5の技術を成立させるにはITSのひとつであるV2Xによる路車間通信技術などが不可欠です。

 よって、二股の先にAとBといういずれも危険因子があるならば、自動走行状態である車両は真っ直ぐな道路を走行している段階、つまり二者択一を迫られるよりも前の段階でAとBの危険因子を察知して、速度を落とすなり、停止するなどして危険を回避する能力を備えていなければなりません。

 つまり、こうした状況での回避能力がなければレベル5を名乗れないことから、二者択一には陥らないわけです。将棋や囲碁の名人のように、数手先まであらゆる角度からの予測ができて初めて、自動走行の継続が可能になります。

次ページは : ■「察知」から「判断」まで1000分の1秒で何度も