無限の可能性への冒涜

第2話 前門の……、後門の……

　ロボット開発において、

「ロボット工学三原則」

　と双璧を担う難しい問題は、

「フレーム問題」

　と呼ばれるものである。

　フレーム問題とは、タイムマシンの次の瞬間の可能性から、過去を変えることの危険性を予見することと、発想は似ている。同じだといってもいいかも知れない。

　ロボットにおける人工知能というものを、コンピュータとして、ロボットに組み込んだとしよう。

　たとえば、人工知能を持ったロボットに、

「穴の中に燃料があるから、それを持ってくるように」

　と命令したとしよう。

　しかし、その下には、燃料の入った箱を浮かせると起爆装置が入り、爆発するという装置が施されていた。

　その装置の仕掛けはロボットの知能の中には入っていた。それでも、ロボットは、その箱を動かして、そのまま、爆発して果てたのだ。要するに、

「箱を浮かせると爆発するという知識はあったが、ロボットの頭には命令を素直に実行するということが最優先で、予見ができていなかった」

　と言えるだろう。

　そこで、次のロボットには、

「予見する能力」

　を組み込んだものを二号として製作し、同じようにロボットに行動させようと考えたが、今度はロボットは、装置を見た瞬間、まったく動けなくなってしまった。

　ロボットは、どうすれば、箱を動かしても、爆発しないかということを考えたから動けなくなったわけではない。ロボットの人工知能にある、思考能力のログを解析してみると、そこには、まったく関係のないことが、高速で考えられていた。

　それは無限に広がる可能性を一つ一つ拾い集めているかのようだった。

　そう、ロボットは、

「次の瞬間に広がった無限の可能性を、一つ一つもれなく考えようとしていた」

　ということであった。

　つまり、ロボットには、人間であれば容易に考えられる、

「その場において、必要な考え、不要な考え」

　というものを整理することができないのだ。

　それは当たり前と言えば、当たり前尾ことで、人工知能には、その場における、

「考えなければいけないこと」

　であったり、

「考えるべきこと」

　というのが、当て嵌められていなかったのだ。

　人間であれば、普通にできる条件判断のようなことも、人工知能ではできないのだ。無限の可能性を、考えられることすべてに当て嵌めてしまうので、どれだけ時間があっても、どれだけの処理スピードが優秀であっても、無限である以上、解釈も無限なのだ。

　つまり、

「無限は、いくら何で割っても、無限しかないのだ」

　と言えるのではないだろうか。

　ただ、最初に考えられたこととして、

「それぞれのパターンを分析して、その分をまるで、額のようなフレームとして当てはめることはできないか？」

　というものだったが、これこそ、

「無限をいくらパターン化しても、パターンも無限にある」

　ということを考えると、不可能なことであった。

　これが、ロボット開発において、一番の難関である。

　この「フレーム問題」が解決してこその、

「ロボット工学三原則」

　なのだ。

　したがって、最初に一番の難関である問題が立ち塞がっていることから、ロボット開発は、まったく進展しない。この問題があるから、

「無限というのは、恐ろしいのだ」

　と言えるのではないだろうか。

　だが、もしフレーム問題というの解決したとしても、フレーム問題以上に、ｓらに問題になるのは、

「ロボット工学三原則」

　である。

　しかし、なぜそんなにフレーム問題の解決ができると思っているその根拠が何かと聞かれたら、

「人間には、フレーム問題を苦にしない」

　という頭の構造があるからだ。

　ということは、人工知能を開発する中で、すでに開発者の方とすれば、このことは理解できているだろうから、いち早く、人間の頭脳の構造を解明しようと動いている人がいるはずだ。

　しかし、それが本当に可能なのかどうか、はっきりと分からない。フレーム問題の一番の問題点を分かってから、きっとすぐに人間んお頭脳の構造までは考えが及んでいるはずなのに、それをいまだに解決できないということは、それだけ人間の頭脳の解析が難しいということであろう、

　それでも、逆を考えると、

「今は、すべてがうまくいっていないということであって、逆に一つ歯車が合えば、それまでの問題は一気に解決できるということはできないだろうか？」

　ともいえるような気がする。

「ロボット工学三原則」

　についても同じことがいえるのではないだろうか。

　ちなみに、この三原則は、

「ロボットは、人間を傷つけてはいけない。さらに、予見できる危険を見て見ぬふりをしてはいけない」」

「ロボットは、前述に抵触しない状態で、人間の命令に従わなければいけない」

「ロボットは、やはり前述伊項目に抵触しない状態で、自分の身は自分で守らなければならない」

　というのが、三原則であるが、この三原則には厳密な優先順位があり、前者ほど、優先順位は高いのだ。

　つまりは、ロボットの絶対条件は、

「人間を守る」

　ということだ。

　この優先順位がしっかりロボットの中で理解されていなければ、一切何も解決できないだろう。

　なぜなら、この三原則に優先順位がないとすれば、その時の状況によって、ロボットが考えた時、その矛盾に必ず苦しむからだ。

　例えば、ライバルを抹殺したいと思った人間の悪意から、

「ライバルである人間を殺せ」

　という命令を受けた時、ロボットは。まず命令に従おうとするだろう。

　しかし、これは、人を傷つけてはいけないという条文に逆らうことになる。優先順位がなければ、まずは命令を守ろうとするから、そう考えるのだ。

　でも、優先順位があるじことで、

「いくら命令でも、従うわけにはいかない」

　とロボットは判断し、悪意のある命令に従わなくてもよくなるだろう。

　もし、ロボットの中に、良心回路が埋め込まれていないとすれば、すべては、ロボット三原則にしたがうことになるだろう。

　そして、良心回路を作るとすれば、

「まずは、三原則を遵守するという回路の開発が必要であり、その際に、フレーム問題をも解決できる回路でなければ、良心回路というものは、机上の空論でしかないに違いない」

　ということになる。

　このようなロボットという発想は、

「どこまで人間に近づけるか？」

　ということなのだろうが、ロボット開発をするということは、人間よりもさらに優秀なものを作らないといけないのではないかと思うのだ。

　なぜなら、人間という生物が、本当に。、

「一番の高等動物なのか？」

　と、単純に考えさせられるからである。

「戦争や、殺人などの行為を、自分の都合のために平気でできるのは、人間という動物だけだ」

　と言えるからだった。

　そんな人間が、ロボットのようなものを作ろうとするのだから、これほど、

「傲慢でおこがましいものはない」

　と言えるのではないだろうか、

　ロボットというのが、人間の操り人形だとすれば、ロボットへの発想は、

「奴隷のようなものだ」

　と言えるのではないだろうか。

　ロボットに対して持っている、

「フランケンシュタイン症候群」

　という感情は、そんな、

「感情を持たないロボットが、人間に対して反逆の気持ちを持ったとすれば、同情などまったくないことになり、人間の破滅が、火を見るよりも明らかだということになるだろう」

　と言えるのではないだろうか。

　だから、ロボットに、人間に同調する感情ではなく、あくまでも人間のいうことを忠実に聞くという、

「ロボットという名の奴隷」

　を作ろうとしているのだろう。

　特に、ロボットが人間のような、フレーム問題を解決できない性能であると分かった時、

「しょせん、ロボットは動物にも劣る、血が通っていない機械としての奴隷でしかないのだ」

　と考えてしまったのだろう。

　人間以外の動物であれば、本能から、フレーム問題を解決できるだけの、才能を持っている。

　しかし、ロボットは、人間が作り出した頭脳でしか、考えることができない。つまり、人間には、限界があるということだ。

　限界のある人間に、

「無限であるフレーム問題を解決できるだけの頭脳を作りだすことなど、考えてみれば、できるはずもないのだ」

　と言えるだろう。

　そんなフレーム問題すら解決できないのは、ある意味で、

「人間には、限界がある」

　ということを、理解していないのか、あるいは、

「フレーム問題が無限である」

　というのを理解していないのかのどちらか、あるいは、どのどちらもではないかと思えるのだった。

　だから、人間は、奴隷というものを作った。

　太古の昔から存在する奴隷制度、自分たちの都合のために、同じ平等であるはずの人間を平気で奴隷にする。

　そもそも、当時の人間は、

「すべての人間が平等だ」

　という意識はないのだろう。

　奴隷というと、まるで虫けらのような発想であり、

「奴らは、支配者である俺たちに奉仕するために、この世に存在しているのだ」

　という発想である。

　今の世の中は、同和問題であったり、倫理として、

「人間はすべて平等である」

　と教えられてきたが、昔の人間は、そんな教育などはなかった。

「支配階級に生まれれば、支配階級としての人生。奴隷として生まれれば、奴隷としての人生を全うすることが正義であり、それを少しでも疑ってしまえば、世の中が立ち行かなくなり、そう考えること自体が罪悪なのだ」

　という考えが当たり前のこととして、ずっと受け継がれていくのだろう。

　そういう意味では、江戸時代の士農工商という身分制度、

「武士に生まれれば、生まれながらに死ぬまで武士。百姓も同じで、死ぬまで百姓」

　という、決まったものが存在しているのであれば、誰も疑うことはない。

　苦労があっても、それが自分の生きる道なのだと最初から教えられてきているのであれば、それはそれで、人生を歩むことに疑問がない分、ある意味幸せなのかも知れない。

「奴隷に生まれれば、それがすべて不幸だ」

　という考えは、本当に正しいのであろうか？

　奴隷を肯定しているわけでも、人権を否定しているわけでもないが、ロボットに対しての感情と、昔の奴隷に対しての感情が同じものだとするならば、

「ロボット開発を人間ができるわけはない」

　というのは、奴隷を肯定することができない人間としては、矛盾していることになるのではないだろうか。

　しかも、その問題から、ロボットが感情を持つと、人間を攻撃するかも知れないので、人工知能に、人間を守るという、

「人間至上主義」

　とでもいうような発想に至るということとが矛盾していると考えると、やはり、ロボット開発や、タイムマシンの開発というものが、人間がおこがましいという存在だということに、人間自身が気づかない限り、到底できることではないといえるのではないだろうか。

　今、人間がロボット開発いしろ、タイムマシンの開発にしろ、どこまで完成しているというのだろう？

　基本的に、どこまで行けば完成なのかというゴールが見えているというのか、漠然としたゴールであるとすれば、それはまるで、

「百里の道は九十九里を半ばとす」

　という言葉にあるように、ある程度まで完成しているとしても、ゴールが見えていないのだから、本来なら完成すべき状態にあっても、完成していないと思えてしまったりするのではないか、その状態が、

「最後の一手、つまりは、仏像に目を入れる時の最大の儀式が残されているということなのだろう」

　空の状態で、機械だけはできていても、感情となる部分が入っていないということであり、それが、

「フレーム問題」

　であったり、

「ロボット工学三原則」

　であったりという、

「機械に生命を埋め込む」

　ということになるのかも知れない。

　吊り橋の上にいて、急に前に進むか後ろに下がるか、迷ってしまうということがあるというのを、本で見たことがあった。

「吊り橋効果」

　のようなものなのかも知れないが、高いところに身を任せてしまうと、その恐怖から、自分の居場所や、これから進むべき道が分からなくなってしまうという発想である。

　自分がいる位置を把握していたはずなのに、それが急に信じられなくなる。高所恐怖症がもたらすものなのかも知れないが、開発者がそのような状態に陥ってしまうと、何をどうしていいのか分からなくなってしまうのだろう。

　最後に組み込むべき、人工知能の性能を、開発した本人が分からなくなってしまう。

　ロボット工学三原則やフレーム問題などを、徹底的に研究してきて、やっとそれを克服できるようになったはずなのに、急に自分の居場所が分からなくなり、足元が急にパカッと割れてしまい、奈落の底につき落とされる感覚にならないとも限らない。

　せっかく、九十九里という道を進んできたのに、いまだ半分も進んでいないという錯覚を持つのか、それとも、九十九里だと分かっているにも関わらず、高所恐怖症によって、すべての意識が崩壊し、どこにいるのか分からなくなるという、そのどちらであっても、本来なら解決できる問題を解決できずに、どうすればいいのかを考えることで、知らず知らずに逃げに走っていることもあったりするのだろう。

　だが、逃げであると自分では決して認めたくない。その思いが先に進むことを拒んでしまい、

「九十九里に行ってしまうと、また半分のところまで戻るという、一種のスパイラルを繰り返してしまうに違いない」

　と言えるだろう。

　まるで、ゴール手前で、絶対に残りのマス目と同一の賽の目を出すことができないような状態に陥っているかのようではないか。

　まさに双六や人生ゲームというのは、

「ゴールすることの難しさ、そこに、生みの苦しみがある」

　ということを思い知らされているかのようである。

　吊り橋の上で、前を見ても、後ろを見ても、まったく同じ光景のように感じるのは、二つ理由がある。一つは、

「ちょうど真ん中にいる」

　ということであり、もう一つは、

「前を向いても、後ろを向いても同じ光景に見えるというのは、どちらかが虚空であり、鏡に映った姿ではないか」

　ということであった。

　そんな虚空を考えていると、タイムマシンやロボット開発について、何に悩んでいたのかということが、次第におぼろげになってくる。

　感覚がマヒしてきたといってもいいのかも知れない。

　本来であれば、何に悩んでいるかということが分かっていれば、分かったまま、壁をぶち破らない限り、先に進むことはできないものだが、元々、

「結界がそこにはあり、開発自体が無理なのではないか？」

　と言われていたことなので、根本的なことがまず、否定されてしまうということなので、他のこととは最初から違っているのだ。

　根本が違っているのに、同じように開発をしようとしても、そこは無理であり、何が悪いかということを分かっていると、それがそのまま足かせとなってしまい、先に進むことはできない。

　タイムマシンというものが、何を意味しているのかということを考えてみると、開発すること自体が、まるで、

「神への冒涜」

　のように思われる。

　そのことを考えた時、ふと思い出されたのが、聖書の中に出てくる、

「バベルの塔」

　の話であった。

「神に近づきたい」

　と考えたのか、それとも、

「自分の力を神にも、人類すべてにも示したい」

　と考えたのか、それとも、他に理由があるのか……。

　バビロニアの王、ニムロデは、天にも届きそうな巨大な塔を建設していた。

　そして、自分の威厳を神に示したいと思ったのか、完成が近づいた、その塔の前から、天に向かって矢を射ったもである。

　それに対して、

「神に弓を引くなど、何と傲慢な」

　ということで、怒りを覚えた神は、その塔を一瞬にして破壊して、それまで、皆の言葉が通じていて、コミュニケーションが取れていたのに、言葉が通じないようにしてしまったことで、皆が疑心暗鬼に陥り、世界各国に散っていったという話であった。

「天に唾を吐けば、自分に戻ってくる」

　という言葉と同意語であり、これは地球には重力があるので、当たり前のことなのだが、それ以上に、

「人間が神に近づこうとするのは、冒涜であり、人間が傲慢である」

　ということを示したお話であり、そして、

「人間は疑心暗鬼な動物であり、世界各国で民族の違いによって、言語が違っているということの説明のエピソードだ」

　ということの話なのだ。

　それらの話をいかに理解するかということが問題なのだが、果たして分かっていることなのだろうか。

　聖書といういわゆる、

「創世記」

　と呼ばれる物語は、いろいろな教訓を与えてくれる。

　教訓というよりも、

「今の世の中の成り立ちを、物語という形で説明してくれている」

　ということでもあり、裏を返すと、

「聖書が書かれてからというもの、何千年という間に、その説明が成り立つものだ」

　ということであり、基本的な考えはまったく変わっていないのではないかと言えるのではないだろうか。

「ノアの箱舟」

「ソドムの村」

　の話など、今の時代に対しての教訓になっていることがとにかく多い。

　この、

「バベルの塔」

　の話も、その一つであり、この章では、

「神への冒涜」

　が主題となっているのだった。

　そんな、

「神への冒涜」

　という発想が、ロボット開発であったり、タイムマシンの開月だったりするのだ。

　今回、タイムマシンの開発が急に進んだのは、この神への冒涜という発想が、感覚としてマヒしてきたからだというだけの問題ではなかった。

　吊り橋の効果を前述したが、吊り橋の上ではとにかく、怖いという発想が大きくのしかかっているものであるが、忘れてはいけないのは、

「前と後ろという感覚が常に付きまとっている」

　ということであった。

　吊り橋の上にいて恐怖を感じると、

「前に進めばいいのか、後ろに下がればいいのか」

　ということをまず考えるだろう。

　そして、それを感じた時、前も後ろも同じ距離にしか感じない。だが、たいていそういう時は、ほとんど進んできているものなのだ。

　先に進む方がどれほど楽であるかということを感じさせないようにしようと考えるのだが、その理由は、

「前に進んでこの場の恐怖を逃れても、結局、もう一度この橋を渡って、戻らなければいけない」

　という思いがあるからだった。

　だから、恐怖を感じた時点で、後戻りが絶対条件のはずなのだ。ここまで前に進んできたうえで、元に戻るということを考えるということは、自殺行為に近い。それを自分の中で元に戻ることをいかに選択させようかと思うと、だいぶ先に進んでいるのに、まだ半ばだということを感じさせようとする、

「自分を納得させようとする感覚」

　だといえるのではないだろうか。

「百里の道は九十九里を半ばとす」

　という言葉は、これとは違う意味なのだろうが、

「ひょっとすると、この言葉の裏の意味には、こういう解釈が含まれているのではないだろうか？」

　と考えられるのだった。

　そして、その時に感じたのが、

「前があるのだから、後ろがあるのは当たり前だ」

　という感覚だった。

「裏があるから、表がある」

「夜があるから、昼がある」

　という感覚と同じである。

　しかも、前と後ろは、

「後ろの方が正解なんだ」

　という感覚から、前を見誤ったということで、前と後ろの感覚は他の相対性とは明らかに違っていると思うのだった。

「何かを納得するには、必ず相対性を理解する必要がある」

　と言えるのだと思っているが、さらに、もう一つ考えたのは、

「前面のトラ、後門の狼」

　という言葉であった。

　その両方には威圧感であったり、恐怖心を抱かせるものがあり、それを考えていると、

「タイムマシンの開発と、ロボット開発という発想は、ここでいう、トラとオオカミという発想と同じなのではないか？」

　と考えたのだ。

　ロボットとタイムマシン、どちらがトラで、どちらがオオカミなのかは分からない。

　しかし、それらの考えが無駄ではないということを考えると、急にタイムマシンに対して感じていた、恐怖に近い感覚が次第にマヒしてくるのだった。

　そして、その時に感じたのは、

「ロボット開発」

　という双璧のものだった。

「ロボット開発もこれで軌道に乗るかも知れない」

　と、まるで他人事のようなことが頭に浮かんだその時、理解が納得に代わってきたような気がしてきたのだ。

　そのおかげというべきか、疑問に感じていた感覚がマヒしてきて、何か光明が見えた気がした。

　それは、タイムマシンの開発に拍車をかけたのだったのだが、それを分かったのは、日本人の二人の学者だったのだ。