【対談】養老孟司×岡本裕一朗 「AIは本当に“役に立つ”のか」

「トロッコ問題」にまつわる誤解

【岡本】最近では、ＡＩによる自動運転車がよく問題になりますが、自動運転で事故が起こった場合、誰が責任を取るのかという点が議論されていますね。こうした議論で、必ずと言っていいほど引き合いに出されるのが「トロッコ問題」です。

暴走するトロッコが近づいてくる。このままだと五人の作業員が轢かれてしまう。あなたの前には一つのスイッチがあり、それを押せばトロッコの進路は変わり、五人は助かる。しかし、変更した進路の先にも一人の作業員がおり、その場合はその人が犠牲になってしまう──

つまり、「ある人を助けるために他の人を犠牲にすることは許されるか？」というジレンマを扱う一種の思考実験です。もともと「トロッコ問題」は、イギリスの哲学者で倫理学者のフィリッパ・フットが提起した、倫理的なジレンマについて考えるための思考実験でした。

1960年代からすでに議論があって、そのときは、そもそも人工妊娠中絶を正当化できる論理があるかどうかという話の中で出てきた。国によっては人工妊娠中絶が禁じられていますから。

もしも妊婦が子宮を摘出しなければいけない病気の場合、摘出は許されるのか？子宮を摘出すれば妊婦の命は助かっても、胎児は死ぬ。それは良いのか。中絶と同じように悪い行為になってしまうのか否かと。

【養老】カトリックの国では、中絶が禁止されてきたからね。最近になってアイルランドが合法化したけれど。

【岡本】その後にアメリカのトムソンという方が、定式化をいっぱいやったんですけど、それも、生命倫理の中で取り扱った話ですね。日本でわりと有名になったのは、マイケル・サンデルさんの「白熱教室」の模様がテレビで放送されたのが大きい。ただ、非常に誤解されている方が多くて。

多分、「5人か、１人か」という究極の選択が「トロッコ問題」だと思われているようですね。実はその選択が問題ではないんです。スイッチの他にも、陸橋の上から人を突き落とすかどうかという場合など派生問題がいくつかあって、場合により判断が分かれるとすれば、なぜ判断が分かれるのか。それを説明できるちゃんとした根拠があるかどうか。そこが大事なんですね。

トロッコの場合だと、功利主義的に5人を助けて、人数の少ない方を犠牲にするという判断が多くなる。でも、かたや橋の上から人を突き落とすとなれば、「いやいや、突き落とすのはさすがにできない。だからここは義務論で、五人は見捨てることになったとしても、人に害を加えてはならないということでいきましょう」という判断になる。

片方は功利主義的に判断して、もう片方は義務論的に判断するのは、一体なぜか。それを説明できるものを探ることこそ、一大テーマなんです。

自動運転車は、倫理ではなく法律の問題

【岡本】別の言い方をすれば、法的な問題と道徳的な問題というのは基本的に分けなければならない。自動運転の場合は、むしろ法的問題と捉え、法整備をどう敷いて誰がどう責任を負うかという議論に集約していくはずです。

そこでみんながどうコンセンサスを取っていくか。自動車メーカーも含めて、どこに責任がどれぐらいあるかという、そんな問題を論じるということです。道徳問題というふうによく言われるんですけども、それは、まったく別次元の問題だということがこの思考実験で見えてきます。

【養老】医者の世界でも、そういう問題は昔からありますね。昔、僕が勤めていた東大病院には、当時７台しか人工呼吸器がなかった。全部使っているときに、8人目の患者が運び込まれたらどうするか。それに一般論で答えろといったって、無理な話ですよ。

【岡本】ただ、自動運転は技術のみが先行して、基本的な制度だとか、経済的な補償システムだとか、そうしたものをまったく決めないままに来ているので、大丈夫かなとは思います。

ですから、この議論は非常にストレートに社会制度の問題だし、法の制度設計は必要になってくるでしょうから、それをどう戦略を取ってやっていくかという、もっとあっさりした議論にさせた方がいいと思うんです。それを「人工知能と倫理」みたいな設定にすると、ややこしくなる。

【養老】人工知能の場合は、「倫理」って言葉が成り立たないんじゃないかなあ。だって、ＡＩって、嫌でも物事が進んでいっちゃうっていう世界ですから。

【岡本】コンピュータはつべこべ言わないで、機械的に進行していくと。

【養老】方針をこうだと決めたら、揺らがずそこを走る。でもまあ、人間の方がコンピュータ的価値観に寄ってきたというか。今の人って、そういう世界観が好きなんですよ。

オリンピックだって、「今年みたいに暑いんだったら、夏の開催はやめて、3カ月ずらしましょう」なんて、できないでしょう（笑）。いったん歯車に乗せちゃったら、そのまま動いちゃう。

【岡本】むしろ人間の方がコンピュータ型の思考で動いていると。

【養老】「今年はなんか調子が悪いからやめようよ」って、そんなことできないでしょ。僕、いつも提案してるんですよ。テレビでニュースがないときは、無理やりニュースなんて作らないで、「今日はニュースがない日だから、雑談に変えましょう」ってやればいいって（笑）。