第四話 罪と罰。5
「ふむ」
理解ったみたいに頷いたのは雨梨だ。雨梨は片肘を付き、そのまま顎をひと撫でする。あたしの吐いた言葉を吟味し、一体どう返すつもりなのかと『お父ちゃん』に視線をやった。
「じゃがそりゃあ……」
お父ちゃんが目の前の『われはロボット』に触れる。
「三原則が許さんじゃろう。明確にロボット条約に違反する。ロボット警察が黙ってないで」
「ロボット三原則な。正確にはロボット工学三原則だけど」
雨梨がツッコミを入れた。
あたしとしても(人のこと言えたことじゃないけど)、どんどん設定増やすのやめろと言いたい。
「そや。そもそもそんなことが出来るはずがないんじゃ」
「あん? お前今自分で」
突っかかるお父ちゃんをあたしは片手を上げ遮った。
「そうじゃ。ワシは確かに自分で言うた。しかしな? 考えてもみい。そもそも人間を殺すことなんて、この三原則を持っとるワシ……ロボットに出来るわけないし、本来だったらこんな思考を浮かべることすら出来るはずがないんじゃ。許されるはずがない。禁忌じゃ禁忌。
分かるで? こんな優秀な頭脳を持つロボットを生み出してしまったら。次、人間が何を考えるかなんて。そら、セーフティネットくらいは用意しときたいやろ。ワシだって思うし、誰だってそう思うやろ。ロボット特有の合理的思考によって人間排除なんて結論が出てしまったら取り返しがつかんしな。だが実際、ワシはそれが出来るし、出来てもしまった。何故やと思う?」
「……そりゃあ、お前さんがそう設計されているとしか」
「つまり、数いるロボットの中だけでワシだけが特別に造られたと?」
「ま、そうやろな」
「そんなことする一番怪しい奴は誰やろう?」
お父ちゃんは一瞬考える素振りをした後、答えた。
「そりゃあお前さんの設計者だろう。今の話聞くとそいつしかできんやろ」
「例えば?」
「……例えば?」
「ワシが殺した奴が怪しいよな、やっぱり」
流石に誘導尋問めいてきたなと自分でも思う。吉川さんも感じ取っているのだろうか、口の端でほんの微かににやりと笑いすぐに引っ込めた。恐らく、先程のやり取りもあって警戒しているはずだ。目の前のこいつは結局大オチをこちらにぶん投げる気だと。
が、そう思ってもらえれば。それこそ狙い通り。しめたものである。
「……主人である人間殺したっちゅうんは自分で今さっき否定しとったな? 出来るはずがないと」
吉川さんはゆっくりと口を開いた。
「ああ」
「殺した奴がロボットやったなんてオチやないやろな?」
会話の中でオチ潰してくる吉川さん。もちろん想定済み。
「違う。はっきり人間やったと自信もって言えるな」
「ちゅうことは、一番有り得そうなのはそこにいるアシモフ先生がそれを仕組んだ犯人っちゅう線じゃが……」
「流石に安直か?」
さり気なくなるたけさり気なく。促すような、相手がそのまま同意してくれるような言葉を選ぶ。
「安直やな」
よしかかった。やるならここだ。
「ワシはそうは思わん」
「え?」
吉川さんが素に戻ったみたいに問い返した。
雨梨がチラと壁に掛かってる時計に目をやった。
「おかしいじゃろ。安直だろうがなんだろうが、やっぱりそこがまずおかしいんじゃ。人間殺した云々それが可能か云々はその後に考えるべきことであって、まず疑問を持たなければならないのは、どうしてこんな空間が存在していて、どうしてお前さんらみたいな人格プログラムが用意されているかっちゃうことじゃ。普通せんじゃろ。だって、プログラムやで? Aという状況に対して、BとCというパターンがある。この場合、より優先度が高いのはどちらか。状況や過去のデータから検証してBを選ぶ。Bを選んだ後、新たに提示される問題に対して選択肢DEFがある。状況や過去のデータからFの答えを示す。それを高速回転で行っているに過ぎん。人間みたいに悩む必要がないんじゃ。だから内部って言っていいんかな。己の内部にこんな心象風景を作り出す必要がないんじゃ。視認できるような心象風景をわざわざ作り出す意味がどこにあるんじゃ? 人格プログラム――AIちゅうた方が分かりやすいかな? を、ひとつのロボットに複数置く意味は? 三原則と同じや。全く違う考えをするAI複数同じロボットに組み込む意味ないやろ? 人格ってお父ちゃんは言うた。ってことは、人格を持ってるってことやな? な? 違う人格をひとつのロボットに組み込んだらそりゃあ混乱するで。ロボットじゃなくても混乱するで。そや。この状況事態がどこか作為的やとワシは思う」
「さ、作為的?」
ワシの勢いに押されたように吉川さんが問い返す。
我ながらよくこんな適当に喋れるものだ。
「作為的でどこか意図的。例えばこれ」
ワシは、ワシはロボット……じゃねえ、われはロボットを示した。
「ロボット三原則。なるほどロボットにとっちゃあ必要やろう。一見すれば理に叶っとるように思える。だけど、優秀な頭脳を持つワシから見れば、たちまちこの三原則の欠陥が分かってしまうわな。さっきも言ったジレンマや。にっちもさっちも。あちらを立てればこちらが立たずという。すぐにエラーを起こすような原則をわざわざ組み込む意味がどこにあるかっちゅう話じゃ。せんやろ? ふつう。
お話作りには向いてるかもしれん。が、現実でやると土台無理なんじゃ。だって、土台に問題があるから。一条も二条も三条も。いくらでも拡大解釈が可能や。人間に危害ってどこまでを指す? 命令をまもれってどこまでや? 自分をまもれってどこまでや? 命令が拮抗した際、そのどちらに優先順位を設定するんや? な? 限りがないやろ? だからこんな三原則、最初から組み込まんでエエんや。そっちの方がよっぽど楽じゃ。シンプルで分かりやすい。この原則を組込んだが最後、膨大な状況を想定してロボットに組み込まなければならん。一条二条三条の後に一項二項三項……ってどんどん続いていくんならまだしも納得できるがこの教典にはそれもない。いや、もっと言えば、ワシにはわざとこの三原則だけをのっけったように思えてならん。ワシにだけこの三原則を乗っけったようにな。混乱するように。こんなこと最初から想定済みとでも言うように」
「ワ、ワシにだけ……?」
「そや。ちなみにこれ。ワシ、外の世界で見たことあるで」
「外の世界?」
「そりゃあるじゃろ。内なる世界がここなんじゃから外はないとおかしいやろ。で。そこではこれ、教典じゃなくて本として売られていた。一冊の本としてじゃ。あ、待ってえな。今モニターに映すで」
そう言って、あたしはスマホを使い通販サイトでわれはロボットを検索する。すぐに出てくる。タップして吉川さんに示した。
「ほらな。これ元は教典じゃなくて小説なんじゃ」
「はあ……」
なにを当たり前のことを、とでも思っているんだろう。あたしは続ける。
「つまりな? これ、一種の実験やとワシは思う」
「実験?」
「実際にこの小説に書かれているような三原則をロボットに組み込んだとき、ロボットがどういう反応を示すか――それを実験してるんやと思うで。たぶんこの小説みたいにな。おんなじことが起こるのかっちゅう。
ま、云わば、この内なる世界はモニターじゃ。外側の世界の人間が見れるようにするためのモニターとしての役割を果たしているんやとワシは思う」
「モニター……」
「そや。そう思うと、人を殺した云々の記憶まで疑わしくなってくるわな」
「……?」
「だってそやろ。ロボットじゃ。一度記録したことを忘れるわけがない。わざわざ自分からデリートでもすればべつなんじゃろうが、ワシにはそんなことした記録ないし、第一、殺した記録はあるのに、顔だけ覚えてない、こんな都合のいいことないじゃろ。そもそも人を殺すなんてことロボットにできんのじゃし。さっき言ったセーフティネットは三原則という形じゃないものの、きちんと存在するんじゃ。ワシに組み込まれている。ああ、ここにちゃあんとあるのが分かるで~」
さりげなく、それっぽい設定を追加する。あたしは自分の胸を擦った。
「ゆえに、ワシが殺したのがアシモフ先生その人やとは言わんが、これを仕組んだのは間接的にはアシモフ先生その人やったとワシは思うで」
「間接的、というのは?」
「この小説を書いたのはアシモフ先生じゃ。じゃが、アシモフ先生は故人じゃ。そんなことできるはずがない。ちゅうことは? ワシを造り出した人間が、社会実験かロボット実験か知らんけど、実際に、三原則を組み込んだときにロボットがどういう反応をするか見たかっただけやと思うで。だって気になるやろ? 実際にロボットにロボット三原則プログラムしたらどうなるんかなーって。やから、間接的な犯人はアシモフ先生ちゅうたんじゃ。実際にはプログラムを組み込んだ奴が犯人じゃろうけどな。残念ながら覚えとらん。どや? ここまでの話、何か穴あるか?」
「質問」
「ん」
ここまでほとんど黙っていた雨梨が手を上げた。
そうだ。雨梨なら根本的な説明不足を突いてきてくれるだろう。
あたしもそれを期待していた。最後の『どや? ここまでの話、何か穴あるか?』は、もちろんわざとである。
このまま締めることだってできただろうがね? それじゃあ結局吉川さんの思うがままに終わっちゃうみたいじゃん? そんなことはさせんよ。
「筋は通ってるようにも聞こえるけれど、それだと内側の世界を創造した意味が薄い。わたしらAIに関してもそう。三原則を組み込んでから――それから、人を殺した時にどういう反応をするか、人間が下した命令と三原則が抵触した場合、どういった行動を取るのか。それは、外の世界でモニターした方が意味があるように思える」
「ああ、そこかあ。たしかに……。うーんと……」
あたしが展開させたストーリーの穴。雨梨から理路整然と並べ立てられたその言葉。あたしは説明不足を補うべく、再度言葉を重ねることに――しなかった。
両手を上げる。
お手上げのポーズ。
「わからん」
新規登録で充実の読書を
- マイページ
- 読書の状況から作品を自動で分類して簡単に管理できる
- 小説の未読話数がひと目でわかり前回の続きから読める
- フォローしたユーザーの活動を追える
- 通知
- 小説の更新や作者の新作の情報を受け取れる
- 閲覧履歴
- 以前読んだ小説が一覧で見つけやすい
アカウントをお持ちの方はログイン
ビューワー設定
文字サイズ
背景色
フォント
組み方向
機能をオンにすると、画面の下部をタップする度に自動的にスクロールして読み進められます。
応援すると応援コメントも書けます