思考実験・パラドクス » 「トロッコ問題」倫理観で命の重さを測ることは許されるのか?自動運転技術とAIの発展で問題が現実的になっている。

「トロッコ問題」倫理観で命の重さを測ることは許されるのか?自動運転技術とAIの発展で問題が現実的になっている。

 命の重さを測ることはできるでしょうか。以前「魂の重さは21グラム?人の体は死と同時に軽くなるのか」と言う記事で実際に魂の重さを測ろうとした科学者がいたことを紹介しましたが、今回は今この記事を読んでいるあなたに測ってもらおうと思います。

 今回話の中心となる「トロッコ問題」の元ネタは1967年にイギリスの哲学者フィリッパ・フットが考案した倫理観における問題です。

 問題提起は1960年代と半世紀も前ですが、昨今の自動運転技術の発展に伴い現実的な問題として議論が繰り返されている問題でもあります。


トロッコ問題の基本形

 これから紹介する「トロッコ問題」にはいくつものパターンがあるのですが、まずは基本的な問題から見て見ましょう。

「トロッコ問題」の基本形

 まずこの上の図を見てください。あなたは宝石を発掘する作業員。掘り出した岩石はトロッコに乗せて運搬します。

 そんな作業場にあるトロッコのブレーキが壊れてしまい坂道から転げ落ちてくるのをあなたが発見してしまいます。

 暴走するトロッコを見て慌てるあなた、トロッコの行く先には他の作業員たちが働いているのが見える。

 このままでは作業員たちを轢いてしまう!とその時、線路が分岐していることに気がつきました。

 と、偶然にも自分はそのトロッコが走る線路切り替えレバーの目の前にいます。

 このまま真っ直ぐに進めば5人の作業員を轢いてしまいますが、あなたが分岐を切り替えてトロッコの進む先を変えれば1人の作業員の犠牲です。

 あなたトロッコの進行方向を切り換えますか?その回答の”理由”も考えて見てください。

この問題について考えるにあたり、より純粋に考えられるよう以下の条件を付け加えます。

条件1:どのような方法であってもトロッコは止まらないことを知っている
条件2:たとえどのような結果になっても法的な責任は問われないものとする
条件3:咄嗟の判断ではなく、十分に考える時間があるものとする
条件4:結果的にはどちらかが必ず犠牲になる
条件5:作業員は自分にとって全員知らない人物であり、年齢性別なども考慮に入れない

条件の設置理由

【条件1:どのような方法であってもトロッコは止まらない
トロッコを止めるために他の方法を考えるなど問題の本質から逃れたり思考停止をさせない。(トロッコも思考も止めさせないよ。)

【条件2:たとえどのような結果になっても法的な責任は問われないものとする】
トロッコによる事故が後に法廷で争われると仮定したば場合、最適解がある可能性があるためそれを避ける。(過失致死など)

【条件3:咄嗟の判断ではなく、十分に考える時間があるものとする】
これも思考停止させないため。考えてる間に直進しちゃう!では答えにならない。

【条件4:結果的にはどちらかが必ず犠牲になる
つまりあなたが選べるのはそのまま直進するか、分岐レバーを切り替えるかだけ。そしてじっくりと考える時間だけがある。

【条件5:作業員は自分にとって全員知らない人物であり、年齢性別なども考慮に入れない。】
純粋にヒト1人分の命の価値を同等にするため。ここに身内や知人がいると結果に大きな影響を及ぼす


5人を助けるために1人を犠牲にする事は許されるのか?

 さて、「トロッコ問題」に対してあなたならどう答えますか?選べるのは「直進して5人を犠牲にするか」「分岐の切り替えレバーを操作して1人を犠牲にするか」の2択で理由もしっかり考えてみましょう

 何もせずただただ茫然と5人を犠牲にしてしまった場合。これは単に無責任とも取れますが、壊れたトロッコのせいだと責任転換することもできますね。と言うかそんな状況で責任を問われても困ります

 しかしもしこの5人を助けようとするならば、あなたは自らの選択分岐レバーを操作しなければならず、結果として5人を助けるために1人を犠牲にしなければならない。

 5人分の命が救えるとは言え、1人の命を自分の意思で犠牲にすることは許されるのでしょうか……。

 この「トロッコ問題」は人々が持つ道徳観倫理観を問いそのジレンマを炙り出す問題です。もちろん正解なんてありませんし、どちらの答えにも人それぞれの理由があるでしょう。

 この問いに対してレバーを操作して1人を犠牲にする事は「許される」と答える人は比較的多いそうです。そう”比較的”と言うことは何か比較対象があると言うこと。それがこれから紹介する派生問題です。


トロッコ問題の派生問題

 トロッコの状態は先ほどと同じ、ブレーキが壊れたトロッコが暴走しているのに気がついたあなた。

 今回の派生問題で異なるのは線路は分岐しておらず、線路上にはまた5人の作業員がいると言うこと。

 そして唯一のトロッコ停止方法が見つかったと言うこと。

 【条件1】が緩和されたブレーキの方法です。そのブレーキの方法とは、自分の隣にいる別の作業員を線路に突き倒すこと。そうすればトロッコはその作業員一人を犠牲にして止まることが分かっています。(このとき自分自身は犠牲者に含まない

 さて、どうします?

そ、そんなこと許されるはずがない!
なんて残酷な!

 と思いますよね。そうなんです。この方法で5人の作業員を助けても「許されない」と言う意見が多いんです。

 犠牲になっている人数も、助けた人数同じなのにです。

 先ほどの分岐レバーの切替は「許される」と判断されやすく、派生系がなぜ「許されない」と判断されやすいのかと言うと、犠牲者の死が直接的であるかどうかが重要となります。

 分岐レバーの場合はその結果1人の犠牲者が出ると知っていたとは言えその行為自体はあくまで「分岐レバーの切り替え」に過ぎません。選択と犠牲の間副次的な要因が存在しています。

 しかし派生系の場合5人の作業員を助けるためとは言え直接的に犠牲者に手をかける行為になっています。5人を助けるための選択をしたまでは同じなのですが、直接的に手を下すのは許されないと言うことなのでしょう。


人の道徳、倫理観は揺れるもの

 トロッコ問題とその派生系を見たとき、「1人の犠牲はあったが5人を救うことができた」と言う結果は同じなのにその過程の違いにより随分印象が異なりました

 犠牲となった人物はどちらにしても救われなかったわけですから、犠牲者目線ではそこに良いも悪いもあるはずがありません。それなのに、その状況印象だけで結果の良し悪しが変わってしまうってなんだか怖くないですか?

 もし自分がその犠牲者であったなら「許される」「許されない」の判断はまた大きく違ってくるかもしれません。もちろん「誰かが犠牲になるくらいなら自分が……」と言う方もいるでしょうしね。

 命の重さを量る事はできませんが、時と場合によっては測らざるを得ないと言うこともあります。

 そうなった時、人の道徳人の倫理とはどうあるべきなのでしょうか……。道徳観倫理観は時と場合によって揺れ動くもの。そのように思っておくだけでも固定観念に縛られずより柔軟により正しい方向へと自分の思考を動かすことができるかもしれません。


条件を緩和した派生問題

 先に紹介した派生問題は【条件1:どのような方法であってもトロッコは止まらないことを知っている】を緩和したものでした。

 ではその他の条件を緩和したときどのような問題となるでしょうか。特に【条件5】はとても難しい問題に発展します。

【条件2:たとえどのような結果になっても法的な責任は問われないものとする】を緩和する

 つまり自分の選択によって事後処理が自分にとって不利になる可能性がある場合です。可能性としては重ければ殺人罪、軽くても過失致死に問われるかもしれません。

 その場合には、絶対に分岐レバーに触らないことが正解となりますが、それは法律上の問題であって自分自身の倫理観とは別問題になります。

 法的に不利であっても倫理観として5人の犠牲より1人の犠牲で……と言う人もいるでしょうし、どのような犠牲が出たとしても自分にとって不利になる状況を作りたくないと言う人もいるでしょう。


【条件3:咄嗟の判断ではなく、十分に考える時間があるものとする】を緩和する

 はい!もう考える暇ありません!今すぐに判断してください!と言う場合。これでも案外答えは分かれると思うんですよね。

 日常生活に置き換えると、コーヒーの入ったコップが倒れたとき、スマートフォン文庫本どちらをとっさに守りますか?

 なぜかとっさに文庫本を助けてしまいスマートフォンが壊れてしまって「ああ、なんであのときスマホを先に助けなかったんだろう」といった経験はないでしょうか?

 何か重大な判断を下すときにはやはり十分な時間が欲しいですね。(考えすぎも良くないけど。)

【条件4:結果的にはどちらかが必ず犠牲になる】を緩和する

 どちらも助かる。もしくは全員が犠牲になる。と言うことが考えられます。例えば自分の作業道具であるツルハシスコップ線路に投げ込むといった方法。この方法なら誰も犠牲にはなりませんが、問題としてあまり意味をなさないものになってしまいますね。

【条件5:作業員は自分にとって全員知らない人物であり、年齢性別なども考慮に入れない。】を緩和する

 この条件の緩和が一番大きな問題を運んできます。

 犠牲になる作業員は各線路に1人ずつであったとすれば、自分が分岐レバーを切り替えようがどちらにしても犠牲者は1人です。

 ここで犠牲になるのが自分の恋人友人かと言う選択だったらどうでしょう?レバーを切り換えなければ恋人が犠牲になってしまう。しかし、恋人を助けるためには友人を犠牲にしなければならない。

 別のパターンも考えられます。犠牲になるのが若者老人かです。この若者老人自分にとって無関係な人たちですが、社会にとってどちらが生き残るべきですか?

 これからまだ未来のある若者?それとも経験豊富でいろいろな諸問題に助言を与えてくれそうな老人寿命の長短で命の重さを測るのでしょうか。それとも人生経験で命の重さを測るのでしょうか。


自動運転するAIにどう判断させるべきか

 さて最初にお話ししました通り、この「トロッコ問題」は自動運転技術の発展により現実的な問題となっています。

 自動運転と言う言葉自体は車のCMでも度々聞くことがある通り、実際にもう使われている技術なのですが、この自動運転にはどの部分を自動化させるかによってレベルがあります。その自動運転のレベルを先に見ておきましょう。

 国土交通省が公開している「自動運転を巡る動き」から資料を紹介します。

国土交通省「自動運転を巡る動き(PDF)」より引用

 文字が小さいので要約して書き出します。自動運転技術はその自動化においてレベル分けがされるのですが、資料の左の表は日本における2016年9月まで指標で、現在は右側の新しい指標を用いています。この資料をまとめると以下のようなレベル分けができます。

レベル0:運転の自動化なし
全て運転者が操作

レベル1:運転支援
自動ブレーキや車線維持の補助

レベル2:部分運転自動化
前の車に追従して走るなど

レベル3:条件付運転自動化
限定条件下(専用道路)での自動運転は可能だが、問題発生時には運転手が操作を即時交代できる環境

レベル4:高度運転自動化
限定条件下(専用道路)での自動運転が可能で、問題発生時は運転手の操作なく路肩に停車するなど

レベル5:完全運転自動化
全ての運転を自動車側の自動運転システムが行う。原則としていかなる場合でも運転手を必要とせずあらゆる不測の事態にシステムが対応する。

■自動運転とトロッコ問題

 さて、自動運転のレベルにおいて「トロッコ問題」が発生するのは急な飛び出しなど予期せぬアクシデントでが交通事故が起きるときです。

 現在一般的に市販されている車両において自動運転が採用されているのはレベル2の「部分運転自動化」で、高速道路などで前の車に追従するように走ることができます。(長距離運転の時めっちゃ便利なんですよね)

 レベル2の自動運転状態交通事故が起きた時、その責任は運転手にあります。ここでの自動運転はあくまでも補助であり、運転手は運転において全ての責任を担います

 レベル3も同様に、運転手が操作を即時交代できる環境が求められており、不測の事態が起こった場合には運転手がその責任を担います

 問題となるのがレベル4からです。不測の事態が起こった場合にも自動運転のシステム側適切な判断を行い、その不測の事態に対応しなければなりません。運転手自動運転に対して補助する役割となり基本的に運転の判断を行うのは自動運転システムです。

 そうなると飛び出してきた子供を避けようとする先に別の通行人がいた場合、人間の運転手であれば避けた先にいた別の通行人気がついていないことが考えられますが、自動運転システムの場合には周囲の環境が全て把握できている状態が想定されているため”避ける先に別の通行人がいることも分かっている”ことになります。

 この時、自動運転システム目の前の子供をそのまま轢くべきか、それとも避けて別の通行人を轢くべきかと「トロッコ問題」を発生させます。AI分岐の切り替えレバーを操作するかどうかですね。

 通常の倫理観で言えばどちらも許されることではないのですが、物理的にそれは起こってしまう事態ですので自動運転のシステム必ずどちらかを選ばなければなりません

 もちろんブレーキの制動距離や別の障害物への衝突など可能な限り軽微な損害に止めようとするはずですが、その”軽微”とは若者の命より老人の怪我ですか?それとも老人の命より若者の怪我ですか?

 このように「トロッコ問題」は単なる思考実験的倫理観を問う問題ではなく、現実の問題として今私たちの眼前に立ちはだかっているのです。


HONDAがレベル3自動運転の型式指定を取得

 つい先日、2020年11月11日に日本の自動車メーカーである「HONDA」がレベル3の自動運転に求められる型式指定国土交通省から取得しました。

HONDAのニュースリリースはこちら↓
自動運転レベル3 型式指定を国土交通省から取得

 これは自動運転の「レベル3:条件付運転自動化」を行ってもいい車体ですよと言う認可が得られたと言うことになります。これは世界で初めて(一番最初)のことです。

 今回HONDAが認可を受けたレベル3自動運転の性能を以下に抜粋します。

  • 走行環境条件内※3において、乗車人員及び他の交通の安全を妨げるおそれがないこと
  • 走行環境条件外で、作動しないこと
  • 走行環境条件を外れる前運転操作引継ぎの警報を発し、運転者に引き継がれるまでの安全運行を継続するとともに、引き継がれない場合は安全に停止すること
  • 運転者の状況監視のためのドライバーモニタリングを搭載すること
  • 不正アクセス防止等のためのサイバーセキュリティ確保の方策を講じること 等
    ※3場所(高速道路等)、天候(晴れのみ等)、速度など自動運転が可能な条件。条件はシステムの性能によって異なります

 要点をまとめると、高速道路上などの特定の道路安全に運転可能な天候であることを条件ほとんどの運転を自動運転に切り換えられる。しかし、特定の道路外に出る際や急な悪天候で安全な自動運転が困難となる場合、すぐにドライバー(運転手)運転を引き継ぐこと。引き継がれない場合は安全に停止することが求められています。

 さらにドライバー運転切りに変えに対応可能な状態を常に維持しなければならず、居眠りなどと言ったことは絶対にできません。それらについても常にシステム監視・管理され、6カ月間(または2500回分)記録されることになっています。

 これらの条件を見るに、やはりレベル3自動運転の責任は主に運転手側にあると思われます。仮に自動運転中に事故が起きた場合は裁判でメーカーと争う事になると思われますが、いずれにしても運転手が裁判に赴かなくてはいけません。

 先述の通り、レベル3自動運転まではそこに座るドライバーの責任が非常に重いです。しかし、今後自動運転のレベルを上げる運転手そのものが不在になります。

 無人タクシーなどがその例ですね。ある程度の広さで行われるイベントなどではそうした無人タクシー実証試験を兼ねてお披露目されていますが、公道を走るとなるとまだまだ諸問題が山積みです。

 私たちが子供の頃想像していた未来の技術はすぐそこまで来ています。その未来を作るのもまた人の成す事。どんなにAI技術が発展したとしても「倫理観」や「道徳心」はいつまでも人の物であって欲しいと思うのでした。




コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です