人々の道徳観を明らかにする「トロッコ問題」
トロッコ問題とは、「ある人を助けるために他の人を犠牲にすることは許されるか？」という倫理を扱う思考実験の1つです。
例えば、次のようなストーリーが提示され、多くの回答者を悩ませてきました。
制御不能になったトロッコが線路の上を走っている。
このままでは前方の5人の作業員がひき殺される。
あなたの近くには進行方向を切り替えるレバーがあるが、レバーを切り替えると、その先の線路にいる1人の作業員をひいてしまう。
あなたはレバーを切り替えるか？
もしレバーを引けば5人の命を救うことは出来ますが、あなたには自分の手で1人を殺したという責任がのしかかることになります。
もちろんこれは事故なのだから、何もせずに見過ごしたとしてもあなたに責任は無いはずです。しかしレバーを引かなかった場合、あなたは救える5人の命を見捨てたという後悔に苛まれるかもしれません。
トロッコ問題に関しては、線路に石を置いて電車を脱線されば全員救えるとか、頓知の問題にしてしまう人を多く見かけますが、これはトロッコを止めるための頓知をしているわけではありません。
「5人を助けるために1人を殺してもよいのか」という人間の道徳観を調べています。正解があるわけではなく、こういう状況に対してどういう判断を下す人が多いかを見ることがトロッコ問題の目的です。
そのため何かしら理由をつけてトロッコ問題の回答自体を拒否する人が多いという事実は、犠牲と責任が伴う局面で人間が自分の意志で判断を下すことがいかに難しいかを示していると言えるでしょう。
このトロッコ問題には、犠牲者の条件を変えたさまざまな亜種の思考実験も存在します。
その中には、人数を比較する以外の要素が含まれます。例えば次のような問題があります。
男性と女性のどちらをトロッコでひくか
イヌと人間のどちらをトロッコでひくか
子供と高齢者のどちらをトロッコでひくか
大切な友人と見知らぬ人のどちらをトロッコでひくか
また、トロッコではなく、回答者を車のドライバーと想定し、衝突が避けられない状況で2択を選択させる問題もあります。
急に飛び出した歩行者に突っ込むか、ハンドルを切って交通ルールを守っている歩行者に突っ込むか
歩行者に突っ込むか、それともハンドルを切って対向車に突っ込むか
さきほども言った通り、このようなトロッコ問題には「正解」は存在しません。
トロッコ問題とは、「回答者の道徳観の傾向を明らかにする」ためのものであり、決して「命を効率的に救うための問題」でも「どちらかの選択の正当性を評価する問題」でもないのです。
実際、トロッコ問題で人々がどのような判断を下すかは、育った国・文化・宗教によって、大きく異なります。
とはいえ、トロッコ問題が「人間の判断の傾向を明らかにするもの」であることには変わりありません。
一方、現実世界のドライバーたちの判断にも、特定の傾向があるはずです。
そのためトロッコ問題は、人間レベルの自動運転システムの開発を目指すうえで、「AIの判断基準をどのように設計するか」という問題と関連しているように思えます。
チェッキーニ氏も、「近年、トロッコ問題は交通における道徳的判断を研究するためのパラダイム（典型的な例、モデル）として利用されています」と述べました。
では、AI（自動運転システム）の判断能力を向上させるために、トロッコ問題が本当に役立つのでしょうか。
