ブータンの幸福度への応援コメント
そんなに難しい話ではないと思います。人間には共感性があり、共感は知識や経験からもたらされるものです。テレビなどのメディアは「共感性」に特化しているのですから、存在を知れば見たくなるとは思います。
で、人間は「自由」と「自分で選べる選択制」も大切にしていますから、ベルリンの壁を越えて東ドイツに行く人はほぼいないのだと理解しています。生物としての本能としても「自分で環境を構築・支配できること」を重んじるのは当然ですからね。
それは「知らなければトラブルが起きないので幸せ」と感じることと、矛盾なんてするわけがない。もちろん、知ってもいらないという人もいるでしょうけど、少数派ですよね。
天下泰平で戦争もない、江戸時代の日本人だって、現代文明を理解すれば、普通にスマートフォンとか使いたがるでしょう。文明開化と称して、禁じられていたことの解禁を喜んだ、明治の日本人が証明していることですよね。
作者からの返信
眞門さん、コメントありがとうございます！
「知らなければ欲しくならない」だが「知れば欲しくなる」は、本当にそうですよね。
一方で、
人工的に調整された幸福感を、受け入れられるのか？
というような問いは、残るような気がします。
yes か no のどちらかに簡単に決まる事ではないかも知れないですね。
トロッコ問題と自動運転への応援コメント
本題ではないんですが、トロッコ問題自体が「なんて完成度の低い設問だ」と常々思っているので、この話自体むにゃっとはなりますよね。暴走トロッコ側に人が乗っていなければ、ポイントを半分だけ切り替えて転覆させれば、犠牲者ゼロなのだし。なんで声かけで回避できないの、と思ってしまいます。
さて、自動運転の場合は話がシンプルで「犠牲者が少ない方が正しい」。これ以外ないと思います。年齢性別その他など考慮の必要はありません。人権として命は等価値だからです。どちらかしか助けられないなら、若い人でいいでしょうけど。
で、メーカーは「交通事故の状況の中で、一番犠牲が少なくなるような運転動作をプログラミングしています」と説明できます。
運転者と事故の被害者の関係性など、考慮する必要はありません。ユーザーにプログラミングさせてはいけない部分です。自動運転車のブレーキが間に合わない時に、右にハンドルを切れば、１人を轢くだけで済む。でも、その一人は家族だ。
左にハンドルを切れば家族は助かるが、５人を轢く。これがトロッコ問題に近い状況でしょうけど、メーカーは「１人を轢く」以外の選択肢はあり得ないです。
これ、完全に妥当ですよね。「別の５人をひき殺しででも、私の恋人を助けるようにプログラミングしろ」とか言われても、社会的な賛同は得られないでしょうから。メーカーとしても、遺族から責任追及されるのはただのリスクですから、犠牲者が少ない方が、責められる先が少ないのだから、いいに決まっていますよね。
で、トロッコ問題に近いとしたら「低確率で犠牲者ゼロになる可能性があるけど、高確率で複数の犠牲者が出る。高確率で犠牲者が一人で済む」という場合の判断だけでしょうけど、この場合は自動運転車が「犠牲者ゼロ」を狙って、複数人が犠牲になることを社会は是とするのではないですか。まぁ、イフの確実な検証が後追いでできるとは思えませんけどね。
作者からの返信
眞門さん、コメントありがとうございます！
トロッコ問題の設問の完成度の低さというのは確かにそうで、それ故に技術の問題に置き換えたり、法の問題に置き換えたりと、倫理の問題であるという土俵に乗せるまでが大変ですよねぇ。しかし、散見するそういう解釈もなかなか面白い内容だったりする事もありますね。
メーカーの対応としては、極限まで技術の問題に置き換え、最後の最後の部分で倫理の問題として解決しなければならないですよね。でも、これは国が強制力のある形で指針を作らないと、なかなかメーカーは動けないかも知れないですね。そして普及期にはルール通りに運用した結果発生した犠牲者について報道され、大問題として取り上げられるような気がします。
別な点で難しい問題もあって、トロッコ問題の実装は、おそらくは従来的なプログラミングではなく、機械学習を含むAIを利用した実装になる可能性があります。となると、意図しない結果が発生した時、どういう判断に基づいてAIが判断したかという事を、ドライブレコーダーなどのデータから後から取り出すのが技術的に非常に難しいケースがあります。従来的なプログラムなら再現しながらプログラムコードとデータの変遷を注意深く追っていけば、起きた結果の原因が分かる事が多いです。しかしAIのメモリを読み解くのは非常に難しくて結果が起きた原因をデータの観察だけでは取得できない場合があるかも知れません。
その場合、どうしてそういう判断を行ったのかを確かめる方法のひとつに、直接そのAIにプロンプトを入力して対話として取り出すという方法があります。これは裁判の場で、まるでAIを証人のように扱うという事を意味するのですよね。もしそういう事が起きれば、AIに対して色々な感情を持つ人が出てくるでしょうね。