新時代への思考実験

第9話 ロボットについての三つの原則，一つの理想、多くの現実

高校三年生の僕（桜井 隆之介）は，夏休み明けの始業式の日に謎の未来人 広瀬 光太郎と彼が使うタイムマシンに出会った。僕はタイムマシンを使って親友の坂本 宏樹の命を救ったのだが，その後ある大学教授と塾講師にそのことを気づかれてしまった。

後にタイムマシンを作る者と名乗る彼らと話すうちに，僕は彼らのことを信用できる人物であると判断し，始業式の日にあったことを伝えて彼らに協力することにした。そして彼らの研究のことを秘密にする口止め料として，僕は想いを寄せる同級生の広瀬 舞とともに，彼らの塾で勉強を教わることになったのだ。

僕がタイムマシンを使ったあの日からおよそ二ヶ月が過ぎた。舞への僕の告白はうまく行かなかったが，タイムマシン理論を構築した大学教授である四宮 香先生の協力もあり，僕は今でも彼女と仲良く過ごしており，いい関係を築いていると思う。

もちろん受験生なので勉強も頑張っている。塾講師の高梨 誠先生と四宮先生の指導の下で舞とともに勉強した結果，最近の模擬試験では志望している学科の合格ラインは超えるようになってきた。

そしていつも通りに舞と塾で居残って高梨先生の特別授業を受けていた時，休憩時間に入るとすぐに四宮先生が教室に入って来て，僕たちに話しかけてきたのだ。

「ねぇ二人とも，ロボット三原則って知ってる？」

なぜそんなことを聞くのか不思議に思ったが、とりあえずロボット三原則を扱った小説を知っている僕は先生の質問に素直に答えた。

「知ってますよ。アイザック・アシモフの小説ですよね。」

「私ももちろん知ってますよ。」

そして隣に座る舞も同じように答えた。

「やっぱりあなたたちは知ってるのね。話が早くて助かるわ。」

僕たちの答えを聞いた四宮先生は頷きながら独り言のようにそう言い，近くの椅子に座った後，続けて僕たちに尋ねた。

「内容についてはどう？どのくらい知ってるの？」

「三原則の暗記まではしてないですよ。何となく覚えてるぐらいです。」

僕はそう答えた。そして舞は，そんな僕に三原則の内容を確認するように聞いた。

「確か第一条が『ロボットは人間に危害を加えてはいけない。』。第二条が『ロボットは第一条に反しない限り，人間の命令を聞かなければいけない。』。第三条が『ロボットは第一条と第二条に反しない限り，自分を守らなければいけない。』みたいな感じだったよね？」

「うん。そんな感じ。」

僕が記憶していた内容とほぼ同じだったため，僕は彼女の言葉に同意した。すると，今度は高梨先生が三原則の内容を聞いて思い出したように，急に会話に割り込んで僕たちに質問をした。

「俺は前に四宮から聞いただけだからそれについてはよく知らないんだが，詳しいのなら俺が不思議に思ってる事を聞いていいか？」

「はい。僕たちに分かる事であれば。」

僕がそう答えると，高梨先生はその疑問について話し始めた。

「三原則のどの項目も犯罪については言及してないが，ロボットは人間の命令ならば犯罪行為も実行するんじゃないのか？」

「いいえ。基本的に三原則によって動くロボットに犯罪行為はできないんです。」

僕は高梨先生の質問に対してすぐにそう答えた。その質問はロボット三原則の疑問としてはよくある内容であったため，僕が答えに困ることは無かった。

そして，僕と同じくらい三原則について知っている舞も，僕の答えに同意して言葉を付け足した。

「うん。そこがややこしいところでもあり，よく出来たところでもあるんだよね。」

「どう言う意味だ？犯罪行為をしてはいけないとは言ってなかったじゃないか。」

僕たちがとても簡単に答えたため，余計に困惑した様子の高梨先生はさらにそう尋ねた。僕は先生に説明を続けた。

「第二条に含まれてるんですよ。基本的に法律には従います。それに第一条にも触れるかもしれませんね。ほとんどの犯罪行為は金銭的な意味や，社会的な意味で人間に危害を加えるものですから。」

「書いてないことも適用されるのか？それなら何でもありじゃないか。」

文句を言うように高梨先生はそう答えた。僕にそんなことを言われてもどうしようもないと思ったが，先生の言うことも分からなくはなかった。全てを書いていないという点がロボット三原則のよく出来た点であり，人によって不満を持つ点でもあると僕は思うからだ。

僕はなるべく先生を納得させるように，小説のことを思い出しながら説明を始めた。

「実際には，言葉で表せられるロボット三原則は人間に分かりやすくするために言語化されたものであって，ロボットの行動原理になっているものとは必ずしも一致しないっていう設定なんですよ。だから犯罪行為防止も，ロボットのプログラム上には書いてある，ということで理屈は一応通るんです。」

「そうなのか？うーん。」

予想通り，首を傾げて納得いかなそうに高梨先生はそう呟いた。

そしてその様子を見た舞が冷静に先生に声をかけた。

「まぁ，フィクションの設定ですからね。書き手と読み手の解釈次第でどうにでもなりますよ。」

「そんなこと言うと元も子もないだろ。」

今までの僕たちの話を無かったことにしかねないことを発言した彼女に僕はそう言って注意した。

そしてそれまで静かに僕たちの話を聞いていた四宮先生が，舞のその話を聞いてから少し笑って会話に加わった。

「フフ。でも確かに舞ちゃんの言う通り，アシモフのロボット三原則はフィクションだから，それ自体をそんな真剣に考えてもあまり意味はないよね。」

四宮先生は舞の考えにそう言って同意した後，話を変えて彼女に次の質問をした。

「でも現実世界でのロボットに置き換えて考えるとどう？現実のロボットに三原則を適用することはどう思う？」

舞は少し黙ってから答えた。

「私はいいと思います。人工知能とかが発達して，ロボットがある程度自分で考えて行動できるようになったら，人間に危害を加えるようになるかもしれないっていう話も聞いたことあります。そういう映画も沢山ありますし，ロボット三原則みたいなものがあれば人間は安心して暮らせるんじゃないでしょうかね。」

「うん。そう考える人が多いと思う。」

先生は納得するように頷いてそう答えた後，次は僕に質問した。

「桜井くんはどう？舞ちゃんの意見とは違うんでしょう？」

先生はいつも通り，まるで僕の考えが分かっているようにそう聞いてきた。事実その通りなのだが，今更なぜ分かったかを聞いてもキリがないため，僕はすぐに自分の意見を述べた。

「はい。先生の言う通り僕はロボット三原則を現実のロボットに当てはめるのは少しだけ反対です。」

「え？どうして？」

僕が自分の考えを話すと，舞が不思議そうにそう聞いてきた。僕はその質問に答えた。

「舞が言った通り，機械から人間を守るという名目でならロボット三原則のようなものは必要かもしれないとは僕も思う。」

「やっぱりそうでしょ？」

僕が初めに舞が言ったことにも賛成する部分があることを告げると，彼女はそう言って同意を促すような言葉を僕にかけた。

しかし僕は彼女のその言葉には返事をせず，反対の意見も考えているということを，舞と四宮先生に説明し始めた。

「でも今作られてるロボットって，機械よりも人間に近づいていってるとも思うんです。アシモフの小説のロボットは単なる人間の道具としての役割しかなかったから，三原則によってその行動を制限することに問題はなかった。でももし，万が一にも，これから先に人間の心のようなものを持つロボットが生まれて，それにロボット三原則を適用したら，その行為は人間の自由を奪うことと大して違わないんじゃないですかね？なんならそういう映画も山ほどありますよ。」

「なるほどね。」

先生はそんな相槌を打ちながら口を挟まずに聞いてくれていた。同じく僕の話を聞いていた舞は考え事をするように腕を組んで黙っており，僕は彼女たちにさらに話を続けた。

「でも僕がロボット三原則に反対する一番の理由は，つまらないからですね。僕がロボットの進化に期待しているのは，人間の友達や仲間になれるような対等な存在でしたから。そのロボットに第二条の『人間の命令に従わなければならない』をされたりするときっと面白くないと思います。」

僕がその意見を言い終えると，舞が腕を組んだまま悩んでいるような唸り声を上げて僕に言った。

「んー。確かにそう言われると，ロボットと対等になれないってのは少し寂しいとも感じるなぁ。でも安全性がやっぱ一番じゃない？」

その質問に僕が答える前に，四宮先生が彼女に言葉をかけた。

「その認識の違いは多分，ロボットの進化に機械性を求めるか人間性を求めるかの違いでしょうね。」

そして先生は僕と舞を交互に見ながら話を続けた。

「でも残念なことに，今の人のほとんどはロボットに機械性を求めていると思うよ。ロボットは人間が嫌がるような仕事や危険な仕事を代わりにやってくれるものとして考えられてると思う。そうやって現在の産業が成り立っているという面もあるからね。だから今の時代の人の多くは，三原則のようなルールには賛成なんじゃないかな？」

「それじゃあ，先生も三原則みたいなルールは必要だと思うんですか？」

先生の話を聞いた舞がそう尋ねた。

「私？私はあなたたちほどロボットに深い思い入れはないからねぇ。うーん。」

予想していない質問を受けたためか，先生は困ったような声を出して少し黙ってから答えた。

「答え方としてはちょっとずるいかもしれないけど，私はどっちでもいいと思うな。」

「どっちでもいいんですか？」

先生がどっちでもいいと軽く答えたのに驚いて，僕はそう聞き直した。先生にはちゃんとした答えがあるのかと思っていたのだ。僕の問いに対して先生は，またしても何でもないように軽く答えた。

「うん。私は人間もロボットも，本質は同じだと思うんだよね。」

先生の言葉を聞いた僕と舞が揃って首を傾げたのを見て，先生はその言葉の説明を始めた。

「人工知能も基本的には人間に教わったことを基に何かを考えて行動するの。人間も同じように小さい頃に教わったことが大人になってからの行動に影響したりするでしょ？要は，人間でもロボットでも物事を教えたり，命令する側の人間次第で良くも悪くも、利口にもお馬鹿さんにもなるわけよ。だからまとめる人間が優秀であれば，そのルールの中身のスタート地点は何でもいいと思ってる。優秀な人間なら自然と多くの人が望むように変更もできるでしょうからね。」

「それなら何で僕たちに聞いたんですか？」

先生の考えていることは理解できたが，どっちでもいいのならわざわざ僕たちの意見を聞きに来た理由が分からなかったため，僕は先生にそう質問した。そんな僕に先生は優しく答えてくれた。

「法律やルールなんてものは，その時代の人の考え方でどんどん変わっていくものだから。今の若い人がどんな考えを持ってて，これからロボットの進化がどうなって行くか少し気になっただけよ。」

「そうですか。」

僕が納得してそう答えると，先生は僕たちへの質問によって得た結論を話し始めた。

「あなたたちの反応を見るに，間違いなく私たちの世代よりロボットを身近に感じていて，それについての考え方も変化してる。私たちの世代なら，舞ちゃんみたいにどちらがいいか悩むまでもないって人が多いと思うから。でもまだまだだね。」

「「まだまだ？」」

その単語が何を意味するのか分からなかった僕と舞は，ほぼ同時にそれを口にして聞き返した。それを受けて先生はさらに説明を続ける。

「うん。時代が大きく変わるのはまだまだ先だと思う。今権力を持ってる私たちより上の世代は，私たち以上にロボットやコンピューターを信頼していない節があるからね。だから少なくとも，彼らが力を失うまでは桜井くんが言うようなロボットが自由を得る時代はきっと来ないよ。」

対等になれるロボットに期待していた僕は，それを聞いて少し残念に思った。その気持ちが表に出ていたのか，先生は続けて僕に言った。

「もっともあなたが夏休み明けに起こしたような騒動を，ロボットのためにもっと大きな規模でまた起こすとしたら，その時代の到来は少しだけ早まるかもしれないね。やってみる？」

冗談のように笑顔でそう言った先生に僕は正直な気持ちを答えた。

「嫌な冗談言わないでください。あんな無茶は当分ごめんです。」

「フフ。だよね。でもありがとう。参考になったよ。勉強頑張って。」

予想通りといった感じで笑った後，先生は僕たちにお礼を言ってそのまま教室から出て行ってしまった。

自分の机で授業の続きを行う準備をしていた高梨先生は，その様子を見て僕たちに言った。

「嵐のように去って行ったな。だが俺たちは授業再開しよう。四宮が変なこと言ったかもしれんが，君らは気にせず勉強すること。合格ラインを超えたと言っても他の受験生も勉強してるんだ。まだまだ油断はできないぞ。」

高梨先生は普段通り僕たちに発破をかけた後，授業を再開した。

授業が終わると，僕と舞は家に帰るために塾を出て駅に向かった。今日は舞のお父さんが仕事で遅いらしく，駅まで僕が彼女を送ることになっていたのだ。

何でもないことを話しながらしばらく歩いていると，舞は珍しく遠慮がちに僕に話しかけた。

「ねぇ，さっきのこと聞いていい？ロボット三原則のこと。」

「いいよ。」

僕がそう言うと，彼女は不安そうな顔で尋ねた。

「本当にロボットのために，始業式の日みたいな無茶をする気は無いんだよね？」

「何だそのことか。しないって言っただろ。」

もっと深刻な話をするのかと思っていたので拍子抜けした僕は簡単にそう答えたが，舞はそれでもまだ不安そうに話を続けた。

「ならいいけど。あの時と違って学校の中だけのことじゃなくなると，もっと大変なことになると思うから。私は桜井くんにはもうあんなことやって欲しくは無いかな。」

俯きながらそう言う彼女の姿を見て，僕は彼女を心配させているのだと気づいた。彼女の気持ちもよく分かる。もしあの日の騒動で，僕たちが選択を一つでも間違えていたら，それまでの日常は崩壊していたのかもしれないのだ。それを思い返すと，もう一度あんなことをするなんて考えただけでも不安になるし恐ろしくもなる。

申し訳ない気持ちと嬉しい気持ちが入り混じった状況で，僕は頭をフル回転させて彼女を安心させるための言葉をかけた。

「うん。分かってる。幼馴染の宏樹のためならともかく，本当にできるかどうか分からないロボットのために，問題を起こそうなんて思わないよ。心配かけたならごめん。ありがとう。」

僕がストレートに感謝の気持ちを伝えると，舞は照れくさそうにそっぽを向きながら答えた。

「別に。もしその気なら，また私が巻き込まれるのかなって思っただけだからね。」

恥ずかしがりながら僕の心配をしてくれる舞に，僕はさらに自分の考えを素直に伝えた。

「そんなつもりもないよ。でも四宮先生が言ったように，僕たちの今の気持ちが未来の考えを作って行くっていうのは賛成。だからあんな無茶なことはしなくても，自分が正しいと思うことや大事に思うことは，未来につなげていく努力をするべきだと思ってる。」

「そうかもね。」

舞は素っ気なくそう返した。僕のカッコつけたような言い方に少し引いたのかもしれない。だが僕は彼女にカッコつけるためにそんなことを言ったわけではない。僕自身がこれからやらなければいけないことから逃げないために，舞に話すことで自分を追い込もうとしたのだ。

というのも，四宮先生が今日僕たちにロボット三原則について質問してきた意味を考えて，僕は内心とても焦っていたのだ。

先生たちがタイムマシンを完成させて過去を変えてしまうようなことがあれば，僕と舞の今のこの関係性もおそらく大きく変化する。そんな事態を避けるために，少し前から僕は高梨先生に結婚を促すなど，先生たちが未来に目を向けるように仕向ける行動をしていたのだが，今までの彼らの言動に変わった様子は見当たらなかった。

そして今日の四宮先生の質問である。おそらく先生たちのタイムマシンは完成に近づいており，四宮先生はそれを使って新技術のルールを決める新しい組織の準備を始めているのだろう。僕にとってそれはかなりまずい事態である。彼らがタイムマシンを完成させて過去を変える実験を行う前に、僕はその実験を阻止しなくてはならない。

今まで以上に思い切った行動に出なくてはならないことは明白であるが，それについて僕には一つ思いつくことがあった。

おそらくその行動を実行するのは3月1日。僕と舞の卒業式の日であり，四宮先生たちがタイムマシンを使って過去の自分達にノートを送る予定の日でもある。

その日の僕に何ができるか，何ができないかによって，僕の未来は大きく変わるだろう。

ロボットの自由についても気にならないわけではないが，舞に言ったように実現するかどうか分からないもののために奮闘するほど，受験生の僕は暇ではないのだ。それについては本気でロボットについて考えられる，未来の名も知らぬ誰かさんに任せるとして，僕は自分自身のために動こうと思う。

夏休み明けの始業式の日，僕たちは自分で行動することで日常を守りきることができたが，それはこれからも同じなんだと思う。やはり自分の未来は自分で掴むしかないのだ。

僕は自分の望む未来を勝ち取るため，天才たちに立ち向かうある計画を密かに練り始めたのであった。

つづく