ロボット三原則を援用した創作を助ける（といいなという願いを込めて書かれた）雑文

ロボット工学三原則：短編集

われはロボット（I, Robot）にみる三原則

（旧題：駆け出しロボ心理学者のためのパヴァーヌ）

　旧題の旧題は「亡きロボ心理学者のためのパヴァーヌ」であったのだが、キャルヴィンは2008年に学位（D）を取って、2016年「現在」は34歳ということであり、まあだから駆け出し（中堅というべきか？　貫禄は既に相当あるし、何しろ唯一無二なので駆けだすもなにも彼女が駆けた場所が道になっていくのであるが）で良いのではないかということになった。このエッセイの方針にも合っていることであるし、まあこのタイトルで。

　と思ったが、分かりにくすぎるので（自分で参照するときすら困ったので）もっと即物的なものにした。どっちがいいかはクレイオ（歴史文芸の守護神らしい）だけが知っているだろう。

　話をはじめる前に、ロボット三原則を忘れた君の為に、念のため再掲しておこう。なんだったら、印刷して壁に貼っておいてもよいと思う。

第一条

　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条

　ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条

　ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

　そういう訳で、本棚をひっくり返して各作品を読み返してみたところ（鋼鉄都市だけ、どっかにいってしまった）、まあ面白いんで、レビュー、という訳でもないが、「三原則の物語」について、アシモフが何をやっているのか、少しまとめてみたいと思う。

　ネタバレにはなるので、読んだことがないけれども、自分で買って/借りて/なんらかの超常的な力を使って、読もうとしている君は（その選択は、とても正しい）、ここで引き返すのが最善だと思う。

　もちろん読み終えた後に、俺と語り合うために（その術がないことが残念だけれど）戻ってきてくれたのだったら、それはとても喜ばしいことである。

　これ全部についてやるとクッソ長くなるし一生公開できない可能性がある（ない）ので、一冊毎に行きます。

　最初はやっぱり金字塔、「われはロボット」から。

　まとめてみて気づいたが、圧倒的に一条が強い。ということは、逆に、三条とかでこれは！　という話ができたら俺は大喜びだし、もちろん一条について考えるのが方針としてはやりやすいということになろうか。

　厳密に三原則を中心に扱っている、ミステリと言えるものは、たぶん「堂々めぐり」と「迷子のロボット」の二作だけかな。あとは三原則（特に一条）の「拡張」およびそれをギミックとした物語、と言って良いと思う。

　ロビイ：三原則が明文化されていないが、「一条」と「二条」（特に二条の柔軟性）が存在する。

　堂々めぐり：この形式のSFミステリをぜひ誰か……！

「二条」と「三条」の「堂々めぐり」に陥ったロボットを、より強い「一条」で開放する話。

　われ思う、ゆえに……：一条で定義される「人間」とは何か、というところにかすってはいるが、本質は別のところにある。

　野うさぎを追って：これは三原則ではなく、ロボットの自律性についての話で、まあ人間の自律性についての寓話でもあるか。

　うそつき：第一条は「精神の危害」に拡張できるか、という話で、答えはできない。が、できるにせよ、できないにせよ、これはテーマとしては面白いと思う。

　迷子のロボット：第一条を守ることによって融通が利かないロボットの第一条を弱めるとどうなるか、という話。これもいいんだよぉ……。

　逃避：第一条違反を引き起こしうる発明についての話で、どっちかというと発明の方が話の中心で、三原則はギミックの一つと言えよう。でもこういう使い方もあるので、まあ面白いですね。

　（人間にとっての未知のテクノロジーをロボットに解析させたところ、ロボットが解答を拒むことから、少なくともそのテクノロジーは「第一条に違反する」ことが分かる、みたいな話）

　証拠：ヒューマノイドが人間を装うために、三原則（一条）を逸脱しなければいけないが、それをどうやってやるのか？　という話であるが、もちろんテーマは逸脱の方法ではなく、ヒューマノイドと人間はどう違うのか、というかヒューマノイドが人間を装うことにはどんな罪があるのか、もっと言うと人間が人間を支配するのと、ロボットが人間を支配するのと、どちらが人間にとって良いかを問いかけることである。

　災厄のとき：これはまあ、証拠とワンセットで語られるべきでしょうね。第零条（第一条の「人間」を「人類」に読み替えたもの）について語られる話。一個人のために働くのではないマシン、あるいは神器（マキナ）（もちろんこれは機械仕掛けの神（デウス・エクス・マキナ）のことを指している）が、三原則（または０＋三原則）を逸脱せずいかにして人類を「支配」するかがテーマである。

　一応書いておこう。

第零条：マシンは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない。

　という訳で、一条について「これや！」という話を思いついた場合は、一応原典に当たった方が良い。二条と三条の良いところをつけた、と思った場合は、多分フリーで書いても大丈夫かなと、そういう感じですね。

　以下はネタバレ度がやや高い所感です。

ロビイ:グローリアがかわいい。ロビイもかわいい。明らかにバイセンテニアル・マンの萌芽であると言える。

　 三原則は明文化されていないが、強い一条と、柔軟な二条が用いれており、とくにこの二条の扱いはロビイのかわいさを完璧なものにしている。

堂々めぐり:おい、2015年だってよ。マジかよ。水星にいるはずだったドノヴァンとパウエルのことを考えるとき、俺は人類が未来に果たす責務のことをつい考えてしまう。

　 ともあれ三原則が明文化され、そして即座に矛盾が示される、この辺りがアシモフの天才性だと俺は思う。

　 弱い二条と強化された三条が拮抗し、堂々めぐりに陥った(あるいは『酔った』)可哀想なスピーディを救う物語で、この話はマジでこの二人が格好良すぎるんだ。

" 「ようし、十四の三乗を先に言えたやつが行こう」そしてほとんど即座に彼は言った。「二千七百四十四！」"

　 パウエルーーーーッ！！（絶叫）

　パウエル、かっこ良すぎるだろ。

　(ドノヴァンもかっこ良いよ)

ともあれ、この形式の作品を俺は読みたくて読みたくて震え……はしないけど、とにかく読みたいのです。

われ思う、ゆえに……:デカルト主義のキューティはかわいい。

　ちょっと長くなるが、魂、あるいは自由意志の不在について話をさせて欲しい。

　我々の身体（もちろん、脳神経系も含む）は有限の素材から作成されており、従ってその機能は有限の説明によって還元可能であるというのが俺の信念で、したがって我々が意識、自由意志、あるいは魂と呼んでいるものは、独立して存在するものではなく、その機能を実現させるために付帯された冗長性の表象だというのが俺の現時点の理解である（ちなみにこのことは、無限の人間性を否定するものではない。有限の長さを持つ直線に、どれだけの点が打てるかということを考えてもらいたい）。

　このことは逆説的に、ヒューマノイド(たとえば長門有希)は有限の身体を持つがゆえに、不可避的に意識、自由意志、魂、と我々が呼ぶ何かを持つことを示しており、その身体こそが彼/女の感情を生み出さしめたものだと言える。

　だからデカルトは端的に言えば間違っている、と言って言い過ぎならば、少なくとも心身は一元的な存在であって、身体は、そのサイズと形式がどれだけ限定的であれ存在しなければ心が発生することはなかろう、ということを俺は言いたいのであるが、分かっていただけるだろうか。

　そういう訳で、身体を持ち、そのために懐疑をし、以って信仰を持ち得たキューティを、傍目から見ていれば俺は微笑ましく見守っていられる訳であるが(ドノヴァンとパウエルもその結論に達したことは幸いである)、これは「心にかけられたる者」に先んじる、第一条、あるいは第二条に述べられる「人間」とは何かを問う課題であり、大変良い話だと俺は思っている。

　ところで、カクヨム内勝手に宣伝コーナーを突然発動するが、哲学をするロボットが好きであるならば、

藤原　聡紳氏の、

「生命について。或いは惑星ホッフェントリッヒ資源調査」は結構お勧めできる。

https://kakuyomu.jp/works/1177354054880598390

　これだ。ここで俺の話は読み終わったことにして、そっち読んでみよっかなということで、アドレスバーにコピペをしてそちらに飛んで行ったとしても、俺は別に怒らないから安心して欲しい。いつかまた、どこかで出会うこともあるだろうから。

　レビューにも書いたが、タイトルちょっと固いけど、hopefullyなコメディであるので、安心して読まれたい。

野うさぎを追って:デイブはかわいい。

　自律性を持つということは大変なことで、だから我々は檻に入り、鎖に繫がれたうえで、より大きな檻とより長い鎖を選択していく訳であるが、それはロボットにおいても例外ではない、ということだ。

うそつき:キャルヴィンはかわいい。かわいいんだよ！ 文句あるか。

　ハービイは第一条を精神にまで拡張した、残酷なロボットであり、だから俺は彼/女を責めることはできないが、しかしその残酷さとかなしさについては論を俟たない。

　ところでこの物語には自己矛盾があり、それは創作の糧になるまいかとちょっと思っている。マジのネタバレをするので、警戒してください。

　この物語は、心を読めるロボットであるハービイが、他者の心を読んだ結果、その心に最も適合した、つまりその人が最も言って欲しいことを(事実と反しても)言ってしまうことによる悲劇の物語である。

　なぜそんなことが起きるのかというと、真実はいつも残酷なものだからである(だから嘘は優しいのだろう、と比企谷くんも言っていた)。

　残酷な真実をつきつけることは、人に危害を加えることであり、だからハービイは嘘をつかなくてはならなかった。

　しかしハービイは、心を読めるのであるから、その嘘が将来においてよりその人間を傷つけることも知っていたはずで、だからこそ、彼/女は自己矛盾を起こして崩壊するのであるが、これは明白な一条違反である。

　短期的に一条に違反すまいとすると、長期的に一条に違反してしまうこの状況について、人間はどちらかを選択することによって崩壊を免れている訳であるが、しかし、ロボットにはそれができない。ある条項を違反させるためには、残酷だが良いアイデアと言えるのではないだろうか。

迷子のロボット:パーフェクトなSFミステリ。一条を不完全にしか持たないネスターはかなしい。

　 一条は最強の条項であるので、それがロボットを不便なものにすることになりうる。

　 簡潔に言えばこういうことだ。

　人間にとって軽微に有害であるが、ロボットにとってクリティカルな事象があるとする。なんでもいいが、そう、たとえば、レントゲンによる身体スキャンを考えてみよう。

　レントゲンはＸ線を照射するものであり、つまり人間はそれによって被曝する。するが、それによる健康被害よりも、正確な診察のメリットが上回るので、我々はその被害を許容する。

　ところがロボットはこの被害を許容できない。従って常にロボットはレントゲンを妨害しようとし、不幸なことにこのロボットは低線量の被曝によってポジトロン回路を破壊されてしまい、使い物にならなくなる。あるいは、単に邪魔だからとみなされて診察室から追い出され、一条違反を看過したことそのものによるポテンシャル崩壊によって自死する。

　こりゃあ困るよね、というのはまあお分かりと思うが、さてではその一条をどう弱めるべきか。簡単なことで、「ロボットは人間に危害を加えてはならない」だけを生かし、「また、その危険を看過することによって、人間に危害を及ぼしてはならない。」を無視するようにすればよい。それだけで、上記の事象は解決する。

　良かった良かった。さて、本当に良かったか？

　そうではない。弱められた一条を持つロボットは、危険なのである。

　弱められた一条を正確に記述するとすれば、こうなるだろう。

「ロボットは、ロボット自身の手によって人間に危害を加えてはならない」

　では、ここに、すやすやと眠る赤ん坊がいる。この子は、寝返りを打てるようになったばかりだが、ある高さを持つベビーベッドに寝かされている。

　ベビーベッドには通常柵が設けられていて、赤ん坊が寝返りを打つことで落下するのを防ぐ機能を持つ。

　子守ロボットのベイズがやってきて、この柵が開いているのを観測した。

　ベイズは当然、柵を閉める。何故ならば、この赤ん坊が柵から転落した場合、危険であるからだ。

　いやもっと単純に言えば、赤ん坊が柔らかい枕に対してうつ伏せになっている。ベイズは当然赤ん坊をやさしく抱き上げ、仰向けに戻す。

　弱められた一条を持つ子守ロボットは、それをしない。

　もっと言えば、柵を開いたり、赤ん坊をうつ伏せにすることさえできる。

　柵から落ちるかどうか、赤ん坊が窒息する前に再度寝返りをうてるかどうかは、ロボットの側が決めることではないわけで、だからロボットが「ロボット自身の手で」人間に危害を加えることにはならない、からだ。

　ということは、「未必の故意」は弱い一条の下では可能、という結論になる。

　さらに、危険を看過することを禁じられていないということは、「人間に対して怒ることができる」ということでもある。手を下しさえしなければ、人間には内心の自由があり、誰をバカにするのも、心の中で殺すのも自由である。ロボットがそうしないのは、怒りによる将来の危険を看過できないため、制限がかかっているからである。であれば、制限がないロボットに怒る自由があるのも、当然と言えるのではないか？

　という訳で、単によかったよかったでは済まない事態が想定される。

　であるから、所与の作業が終わった後、この弱一条ロボットは処分される、予定だった。

　が、そのロボットは、ある作業員の心無い一言の影響で、「通常の」同一規格のロボット群に紛れてしまう。

　さて、このとき、我々は彼/女を発見できるのか？ というミステリである。

　いや、すぐ見つかるやろと思った君は甘い。

　見えてるロボットは選べるんですよ……

　見えていることをそのまま知らせること

　見えてない時に見えている振りをすること

　そして　見えていても　見えてないと装うこと……！

（ざわ……　ざわ…………）

　しかもネスターは同型の仲間たちの蒙を啓いてしまう。実は第一条下であっても、人間に迫るある危険が不可避であるときに、ロボットがそこに迫る前に活動停止が確実な場合、その人間単独の危険と、人間と自己の危険とを天秤にかけ、前者を選択する、つまり、不可避の危険を避けるべく努力「しないこと」ができてしまうのである。

　ちょっと分かりにくいので簡単に言う。

――――――――――――――――――――――

ロボット（HP１）　[毒の沼地]　人間　ライオン　

――――――――――――――――――――――

　こういう状態で、放っておくと当然人間はライオンに食われる。

　ところが、ロボットがこの人間を助けようと毒の沼地に足を踏み入れると、HPは１しかないので、ロボットは死ぬ。

　死ぬので、人間を助けることは、どのみちできない。

　であれば、この人間を助けずに、自分だけでも生きていた方が良い、という判断は、標準一条下でもできてしまう、ということである。

　ネスターはこういう感じで自己の発見を逃れようとするが、果たして物語の結末は――！！　まあ、もう読んでる前提で書いてますから、ご存じのこととは思うんですが、読んでない場合は、読んでくださいね。ほんとに。

　この項だけ異常に長いのは、俺がこの話をめちゃくちゃ好きだからに他ならない。こういうSFミステリを読みたいんですが、誰か書いてくれませんかね！！

逃避:ブレーンは悪くない。悪いのはいつだって人間なのである。巻き込まれたドノヴァンとパウエルには、まあ、ご愁傷様というより他にはない。

　スペース・ワープ、あるいはどこでもドアに含まれる問題、または、自己同一性とは何か、という話である（そうか？）。三原則はおまけ、かな。

証拠：スティーブン・バイアリイは有能。リンゴも食べるし人だって殴る。

　オチはまあアレだけど、上にも書いたように、これは「オチをつける」ための物語ではないのである。→「三百年祭事件」に続く、と言ってもいいかな。

災厄のとき：三原則思いついてこのテンプレ（マシンによる人類支配）を即書ける、というのがほんとにすごすぎると思う。

　→「マルチバックの生涯とその時代」では、三十年の時を経て、人類の別の考えが生まれる。

　ということで、「ロボットの時代」を飛ばして、次回は「聖者の行進」の予定です。