AIについて解説します ～AIが怖いという人にこそ見てほしい～

第7話 自動運転AIとトロッコ問題

　皆様、こんにちは。

　今回は、現在AIが抱えている問題について、紹介したいと思います。

　皆様も一緒に考えてみてください。

　誤解がないように最初に断っておきますが、このエッセイの趣旨はAIを正しく理解することにあります。

　賛成・反対どちらの立場であっても、正しく知る必要があると考えているためです。

　私自身は仕事上でもAIの恩恵を受けておりますので賛成よりの立場ではありますが、できるだけ偏らずに問題点についてもお話しようと思いました。

　その点、ご承知おきください。

　さて、皆様は『トロッコ問題』をご存知でしょうか。

　割と有名な話なのでご存知の方も多いとは思いますが、一応説明しますと『ブレーキが壊れたトロッコが暴走している。 進行方向には５人の作業員がおり、このままでは５人が死んでしまう。 分岐を変更すればその先にいる１人が死んでしまう。 このとき、どうするべきか』というものです。

　このトロッコ問題には正解はありません。

　『ある人を助けるために他の人を犠牲にするのは許されるか？』という形で功利主義と義務論の対立を扱った倫理学上の問題であり、解決が目的ではなく議論することが目的なのです。

　ところが、この問題を解決しなければならない時が、まもなくやってくるかもしれないのです。

　それが自動運転という技術です。

　自動車に様々なカメラやセンサーを付け、都度AIに状況判断をさせることによって自動運転を行うことが可能となっています。

　自動運転は条件によってレベル１～５まで区分化されておりまして、現在実車化できているのはレベル３までとなっているようです。

　レベル３では『高速道路等一定条件下での自動運転モード機能を有する』とされており、一定の条件下であればシステムだけで運転が可能となります。

　ただし、状況次第では人間が介入しなければならず、手動への切替が必要です。

　レベル４では高速道路化でのシステムによる完全な運転が可能となります。

　また、限定地域での無人自動運転移動サービスのような、特定状況下限定でのシステムによる完全運転が行われます。

　レベル５では全ての状況下でシステムによる完全な運転が可能となります。

　目的地を告げれば、後は寝ていても目的地まで連れて行ってくれるというものです。

　自動運転で使用するAIは、ディープラーニングで学習させた弱いAIとなります。

　つまり、運転中に起こり得る様々なトラブルを学習させておくことにより、自動運転を行うことができるのです。

　高速道路で自動運転が可能なのは、歩行者や自転車がいない、信号がないといった運転中に判断が必要となる要素が少ないためです。

　こういう単純な状況下であれば、十分に学習をさせたAIで判断が可能だということでしょう。

　レベル４以降になってくると、歩行者・自転車といった登場人物が増えますし、信号もあります。

　例えば、以下の状況下で我々はどう振る舞えばよいでしょうか。

　『突然5人組の子供が目の前に飛び出してきた。 ブレーキは間に合わない。 ハンドルを切ることで避けることはできそうだが、その先には別の人が1人いる』

　はい、そうですね、『トロッコ問題』です。

　人間の場合、人それぞれの判断をして、その結果事故となります。

　とはいえ、最善の判断をした結果だという評価にはなるでしょう。

　AIの場合はどうでしょうか。

　AIの判断により、本来殺されるべき立場で無かった人が殺されるのです。

　そして、この判断とはディープラーニングで事前に学習させておく必要があるのです。

　別のケースを考えてみましょう。

　『目の前を走っていたヘルメットを着用していないバイクが突然急停車した。 ブレーキは間に合わない。 ハンドルを切ることで避けることはできそうだが、その先には別のヘルメットを着用したバイクがいる』

　この場合、ヘルメットを着用しているバイクにぶつければ、死亡者が出ないかもしれません。

　ですが、これは本当に正しいでしょうか。

　この判断は、交通ルールを正しく守っている側が常に被害者となるからです。

　冗談じゃないですよね。

　ということで、AIによる自動運転は技術だけでは乗り越えられない問題も抱えているのです。

　その他の問題もあります。

　AIによる判断はクラウド上のコンピュータに処理させているため、通信時間のタイムラグや、そもそも通信環境が課題となる場合があります。

　日本は山が多く、トンネルが多いですから衛星を使った通信はできない場合が考えられるのです。

　日本中に5G網を網羅すると、なかなか大変です。

　また、セキュリティも重要になってきます。

　車のコンピュータがハッキングされた場合、重大な事故に繋がるでしょう。

　ハッキングされなくても、センサーやカメラの故障も同様です。

　と、色々と問題を挙げてみましたが、昨今のタクシー不足問題など、自動運転が実現できれば解決する可能性があります。

　どのように問題を解決していくのか、これからも目が離せないですね。