AI &トロッコ問題

https://atmarkit.itmedia.co.jp/ait/articles/2011/25/news010.html

「答えのない世界に立ち向かう哲学講座」にあるディスカッションのテーマで、最も扱いにくいだろう問題は、「トロッコ問題」である。上の画像にあるように、暴走するトロッコが来る。線路が分かれているのだが、メイントラックには5人がいて、サブトラックには1人がそれぞれ線路上にいる。この暴走トロッコをどちらのトラックに行かせるべきかという倫理的なジレンマがトロッコ問題である。小中学校で、一部の子供に心理的不安を与えたらしく、問題になったとか。たしかにちょっと恐ろしい問題である。

このトロッコ問題、やがては訪れるであろう「自動運転車」の解決すべき最大の問題である、とMIT（マサチューセッツ工科大学）の研究者がと発言し、注目されている。自動運転車のトロッコ問題は、前方にタンクローリー車が横転してしまった場合で、車の左側に子供が、右側では老人がそれぞれ横断中。そのまま前進するとタンクローリに衝突し、左にハンドルを切れば子供が、右にハンドルを切れば老人を轢いてしまうという状況下で、自動運転をどうプログラミングするか、という問題なのである。さらに、子供が自分の子供であった場合や、老人が上司であった場合、あるいは子供も老人も3人グループである、など様々な追加条件を想定するそうだ。車の購入者であるという立場を離れると、MITの「モラルマシン」のアンケート結果では、最大多数の最大幸福という功利的原則を選ぶらしい。

シンギュラリティ（技術的特異点）仮説というのがあって、2045年にAIが人間の知能を超えるらしい。かのホーキング博士が「いつの日か、自立するAIが登場し、とてつもない速さで自己改造を始めるかもしれない。生物学的進化の速さに制限される人間が対抗できるはずもなく、いずれ追い越されるだろう。」と述べている。このAIは、相互に結ばれた巨大なネットワーク知能となり、一つの機械を壊したところでどうにもならないといわれている。

…今日のエントリーはここまで。ところで、今日は首都圏の国立超難関校に挑む3年生に前期試験の世界史の指導、来年超難関私大に挑む2年生の相談にも応じた。学園に来てレベルの高い授業をしているが、こういう関わりができることに大きな喜びを感じている次第。