城好きのマスター

第5話 フレーム問題

「ロボット工学」

　というのは、文字通り、ロボット開発においての先駆的学問だといってもいいのだろうが、半世紀前くらいには、

「未来図」

　ということで、その未来がいつも未来なのかということは限定していなかったが、マンガなどでは、

「２３世紀」

　あたりが、一番の候補だったりした。

　その頃になると、未来では、今までできなかったことができるようになり、一番の開発の目玉が、

「ロボット開発」

　というものと、

「タイムマシンの開発」

　というものであった。

　どちらも、もちろｎ、簡単な開発ではない。どちらが難しいのかという問題は、それぞれの専門開発の人でしか分からないが、

「なぜ、開発が難しいのか？」

　ということは、ある程度言われていることはあったのだ。

　タイムマシンなどでは、

「タイムパラドックス」

　という問題である。

　過去にいった時、自分の出生について、何か関わるとすれば、下手をすれば、その先の未来において、

「自分は生まれてこない」

　という、歴史を書き換えることになったとしよう。

　そうなると、

「自分が過去に行って、歴史を書き換えることをしない」

　という未来があるわけなので、従来通り、

「自分が生まれ落ちる」

　という未来が待っているのだ。

　そうなると、自分が過去に行って、自分が生まれてこない細工をする」

　という矛盾が、

「果たして繰り返されることになるのだろうか？」

　ということであった。

　つまり、

「永遠に抜け出すことのできないスパイラル」

　というものに陥ってしまって、戻ってこれないということになるのではないかということであった。

　そんなことを考えていると、

「未来というものから、果たして今を飛び越えて、過去にいってもいいものか？」

　ということになる。

　これらの問題が、

「タイムパラドックス」

　というものであった。

　しかし、別の考え方もあった。

　それが、

「パラレルワールド」

　という考え方であった。

　それは、

「生きている今は、一つではなく、別の世界が広がっている」

　と考え方だ。

「その世界は、別の次元ではなく。同じ世界線が、一つの過去を起点に広がっている。つまり可能性の問題で、今を現在とすれば、次の瞬間には、無数の可能性が広がっているというものである。次の瞬間には、またそこから無数の可能性、果てしなさが、目の前だけではなく、横にも広がっていくということであり、それを、前しか見ない人間には、気付くものではない」

　という考え方だといってもいいだろう。

　それが、

「パラレルワールド」

　という世界であり、その考え方が、

「タイムパラドックス」

　というものを裏付ける考え方に繋がるというものであった。

　つまり、

「タイムパラドックスというものは、過去に戻ってそこから始まった未来が、歴史を変えたということになり、自分が生まれてこないということが決まっているかのように表現することで、矛盾が発生するものだ」

　という。

　だとすれば、

「過去に戻って、そこからまた歴史が繰り返され、その世界において自分が生まれないとしても、その世界が、元の世界のパラレルワールドであった」

　と考えれば、無理もないことである。

　もう一つの世界では、実際に自分は生まれていて、歴史を変えようと、過去に向かっているという、従来の世界が広がっているのだ。

　ということは、

「歴史が変わってしまったわけではなく、過去に戻ることで、おあられるワールドに落ち込んでしまったという意識を持っているのは、自分だけだ」

　ということになるのだ。

　世界において、過去に戻っていくら歴史を変えたとしても、パラレルワールドが存在している以上、自分の精神にだけ影響があるものであり、体勢にはまったく影響があるわけではないという理屈であった。

　それが証明されれば、タイムマシンの開発もスムーズにいくかも知れない。

　今は、どうしても、

「タイムパラドックス」

　という考えが、先に進むということを、どうしても妨げることになる。

　それを思うと、どうしても、タイムマシンの開発が、

「開けてはいけないパンドラの匣を開けてしまうことになるのではないか？」

　と考え、誰も発表できないでいるのかも知れない。

　これさえ解決できれば、今でもタイムマシンの開発を宣言できる人は何人もいるかも知れない。

　いわゆる、

「開発者の渋滞」

　といってもいいだろう。

　さて、もう一つのロボット開発についてであるが、ロボット開発にも、タイムマシンにおける、

「タイムパラドックス」

　のような重大な問題が控えているのだ。

　それが、

「ロボット工学三原則」

　という問題と、

「フレーム問題」

　という問題であった。

　それらは、ロボット開発において。

「越えなければならない、課題であり、超えることができないと、人工知能を持ったロボットの開発などできない」

　ということになるのだった。

　かつて、ロボットという発想の中で、問題となっていたのが、

「フランケンシュタイン症候群」

　というものであった。

　フランケンシュタインというロボットを創造したＳＦ作家がかつていた。

　この話は、一口で言えば、

「フランケンシュタインという博士がいて、その人が、理想の人間をつくろうとして、怪物を作ってしまった」

　ということであり、

　人間の役に立つロボットのような強靭な肉体を持ち、人間にできないようなことができる力を持ったいわゆる人造人間を作ったことが始まりだった。

　そのロボットが意思を持ち、本来であれば、人間のいうことを聞くはずのものだったのに、人間に逆らうという、人間にとって災いとなるものを作ってしまったということで、小説としては、ベストセラーになったのだ。

　しかし、まさか、それがロボット開月の妨げになるとは、誰が思ったことだろう。

人間にとって、これほど、困ることはない。

　だから、

「ロボット開発は未来への希望だ」

　という人もいれば、

「ロボット開発は、一歩間違えると、人類の滅亡に繋がる」

　というものであった。

　人類の滅亡というものを

「未来予想図」

　として考える人がいる。

　例えば、

「核戦争による滅亡」

「天変地異などの自然災害によっての滅亡」

　そして、

「ロボットによる実効支配」

　というものであった。

　どれもがありえることであるが、

「ロボットによる実効支配というのは、防ぐことができるのではないだろうか？」

　と言える。

　というのも、

「ロボットというものを最初から作らなければいいだけだ」

　ということであるが、それは、あくまでも、人類滅亡の青写真の中でのことであり、進歩という面では、最初から、

「臭い物に蓋をした」

　ということになるのではないだろうか。

　ということは、

　そこで考えられたのが、

「ロボット工学三原則」

　というものであった。

　ただ、これは、

「科学者による提唱」

　というわけではなかった。

　これも、

「ＳＦ作家の一つの考え方」

　というもので、

「自作小説のネタ」

　だったのだ。

　というのは、

「人間にとって都合のいいものを、人工知能の中にある何よりも優先する」

　ということにしておけば、決して人間に危害を加えることはない。

　人間に危害を加えることが、そのまま人類滅亡に繋がるということで、

「ロボット開発」

　ということへの利点よりも、最初に、欠点の方がクローズアップされた形だった。

　それも、小説の中の世界だったということで、

「フランケンシュタイン」

　という話は、知らない人はいないと言われるほどに有名だが、逆にそれを補うと言われる発想が掛かれた、

「ロボット工学三原則」

　の話は、ほとんど知られていない。

　もちろん、ここでいわれている、

「ロボット工学三原則」

　という言葉も、知っている人は少ないのではないだろうか？

　少なくとも、フランケンシュタインほど知名度は高くない。

　こっちの方が、ロボット開発に対して関心が低いということであり、それだけフラケンシュタインという発想が、人間の頭の中に、

「ロボット開発など、できるわけはない」

　というような、決めつけてきな発想を植え付けられているのかも知れないのだ。

　それを考えると、

「本当にロボット開発など、できるわけはない」

　と言えるのではないだろうか？

　ロボと工学三原則」

　というのは、その名の通り、三原則から成り立っているものであり、第一条として、

「ロボットは、人間を傷つけてはいけない」

　というもの、第二条として。

「ロボットは人間のいうことを聞かなければいけない」

　というものであり、第三条としては、

「ロボットは自分の身を自分で守らなければいけない」

　というものであった。

　そして、この三原則において、一番重要なものは、第一条が一番の絶対であり、第二条は一条に抵触しないように、そして、第三条も、第一条、二条に抵触しないというのが、鉄則だったのだ。

　これが破られれば、ロボット工学三原則は根底から覆る。

　つまり、ロボットは、思考が停止し、一歩も動けなくなるということになるのであった。

　これが、ＳＦ作家の提唱したもので、そのことを踏まえて書かれた数作品が、彼の作品として残っている。

　そして、今でもこのことが、ロボット工学においての、

「バイブル」

　とされてきて、今でも、大学の工学部で、

「ロボット開発をしているところでは、一番守らなければいけないものとして考えられている」

　ということであった。

　この発想は、某大学の工学部に別の形で残っている。興味深いこととして、

「ＳＦ作家が、次作小説に、ロボット工学三原則を盛り込むよりも、前のことだった」

　というのだから、すごいことであろう。

　そのモットーというのが、

「神なき知育は、知恵ある悪魔を作るものなり」

　ということであった。

　つまり、

「秩序のない知恵というものは、知恵だけに凝り固まった、自分だけのことしか考えないような悪知恵の働く、悪魔のような人間やロボットを作ることになる」

　という、戒めであった。

　今でも、某大学の入り口に飾られているということで、大学の創設者がその言葉をモットーとして、工学部を運営しているということになるのだ。

　その考えが、ロボット工学開発において、。

「ロボット工学三原則」

　に近い、もう一つのモットーだといっても過言ではないだろう。

　さて、いよいよ、

「フレーム問題」

　ということになるのだが、

　これは、ロボットに対しての、

「抑止力」

　ではなく、それ以前の、

「人工知能と、それに対しての行動」

　ということに限定されるのだ。

　つまりは、ロボット工学三原則を考えるのは、もちろんだが、それ以前に、

「ロボットの人工知能」

　というものを開発できるかできないか？

　ということに関わってくるのである。

　人口知能というものが、どのような発想になるのかというと、一番のネックとして考えられることは、一口でいえば、

「無数に広がる可能性」

　ということであろう。

「あれ？　これ、どこかで出てきたような」

　と賢明な読者であれば、ピンとくるであろう。

　そう、タイムマシン開発で出てきた。

「パラレルワールドの発想」

　である。

　どちらも、キーワードは、

「無限に広がる可能性」

　ということである。

　今度のフレーム問題というものは、一口でいうと、

「無限の可能性を、果たしてロボットは、認識できるのだろうか？」

　ということである。

　逆にいえば、ロボットではなく、認識するのは、人間が取り付けた人工知能ということになる」

　というのである。

　例えば、一つの洞窟の中に、ロボットに必要な燃料があったとする。それをロボットにとってくるように命令した場合、ロボットは、燃料を見つけて、それを手に取って、表に運ぼうとする。

　すると、実はその下には、爆弾が仕掛けられていて、

「上の重しを外すと、起爆装置が入る」

　という仕掛けになっているのだった。

　ロボットがそのことを知らなかったので、爆弾は爆発し、燃料とともに、ロボットは木っ端みじんとなって吹っ飛んでしまったのだ。

　そこで、今度は、ロボットに、爆弾の起爆装置に仕掛けだけは説明しておいた２号機に同じことをさせると、今度は、燃料の前で動かなくなった。どうしていいのか分からなくなったようだ。

　そこで、今度はそれらの対象方法を教え込ませてもう一度洞窟に入れようとすると、今度は、最初から一歩も動けなくなってしまったのだ。

　ロボットには、

「思考する」

　という回路を一緒に組み込んだのだが、学習をしないとそれが分からないようで、まず最初に、あらゆる可能性に対して考えるようだ。

　例えば、

「自分が動けば、空の色が真っ暗になってしまう」

　などといった、この場合とはまったく関係ないあらゆる可能性を考えてしまうというのだ。

　つまりは、

「無限に広がる可能性」

　である。

　それを、果たして、ロボットは把握して行動ができないから動けなくなってしまったのだ。

　人間においても、同じことだろう。

　だが、

「では、人間はどうして普通に行動ができるのか？」

　ということであるが、

「それは、パターンごとに考えることができるからだ」

　ということであった。

　確かに人間は、余計なことを考えてしまうことはあっても、すぐに冷静な判断を下すことができる。

　特に、今回の爆弾であれば、例えば誰かほかにるかどうかを先に探してみて、二人で行えば、爆弾の爆発を防ぐこともできる。

　他にいい方法だってあり、その発想も浮かぶかも知れない。

　しかし、それがロボットの人工知能にはできない。もし、ロボットに意思があったとすれば、

「人間というのは、何と頭のいい動物なのか。まるで全知全能ではないか？」

　と思うことだろう。

　それこそ、人間が、

「神は人間を作られた、全知全能のものなのだ」

　という発想と同じである。

　この考え方は、

「自然の摂理として当たり前」

　のことなのか、あるいは、

「人間が造り上げた、理論的な行動なのか？」

　とどちらなのか、普通に考えれば前者なのだろうが、人間としては、後者だと思いたいものではないだろうか。

　そんなことを考えていると、

「ロボットというものは、どうしても人間になりきることはできない」

　と言えるだろう。

　それは、人間が神になれないのと同じ発想で、

「昔あった、ロボットアニメなので、心を持ったロボットが人間になりたいと思っているのだ」

　というような話であったが、

「人間には、神にどうしてもなれないということを、理屈では分かっている」

　と思うのだが、それを果たして、ロボットが、

「似たような発想になれるのだろうか？」

　と考えると無理な気がして仕方がない。

　そもそもフレーム問題という考え方は、

「無限に広がる可能性だと思うから理解できないのであって、パターンにはめ込めた、フレームのようなものに、それぞれの可能性を組み込めば、できるのではないか？」

　という発想であった。

　しかし、これは実際にやってみれば分かるのだが、実は不可能だった。これは、

「数学的に考えれば、簡単にダメだという理屈が分かるというもの」

　というのである。

　つまり、

「無限なものを何で割っても、答えは無限でしかない」

　ということになるのだ。

　つまり、いくらいくつかのパターンに絞ったとしても、絞った先でそこから先の可能性を考えたとしても、さらに、無限でしかない。

　ということは、

「今度はそのパターンが無限でなければ、その先のパターンを有限にすることはできない」

　ということになるのだが、

「いくら、無限に細分化しても、その先が有限になるとは限らない」

　ということになるのである。

　それらの考え方を加味すると、

「無限というのはどこまで言っても無限、いくらパターンで括ろうとしても、そこには無理が生じるのだ」

　ということであった。

　つまり、

「フレーム問題」

　というものは、神はもちろん、人間には解決できるものだが、人間が作るロボットにはそれを解決することができない。

　ということであり、

「人間というものは、自分にできても、創造物に同じ機能を持たせるということはできない」

　ということになるのだろう。

　そう考えると、結局、

「人間には、人工知能を持ったロボットを作ることはできない」

　ということであり、

「ロボット工学三原則」

　と同様に、人間に解決はできない。

「ロボット開発など永遠に無理ではないか」

　ということになるのだろうが、どうしても、諦めきれず、ずっとロボット工学の研究に、一生を費やしている人もいるだろう。

　ロボットというものが、本当に人間の役に立つものなのかどうかというのも怪しいもので。フランケンシュタイン症候群の問題だって潜んでいるのに、それを無視して、先に進むことはできないという意味で、

「つり橋の真ん中で右往左往」

　しているのと同じではないだろうか？

「行くに行けず、戻るに戻れず、それぞれに無限の可能性が広がっていると、何が正しいのかを必死に考えないといけない。選択を誤れば、奈落の底に一気に突き落とされるということが分かっているからだ」

　ということである。

　だから、

「後ろを見ても果てしない。前を見ても果てしない」

　つまりは、知らず知らずのうちに、無意識に自分で四面楚歌となるように、まわりに、四面楚歌を作り上げ、人間が理解でいないであろう、

「フレーム問題」

　というものを、造り上げてしまったのかも知れない。

　それを思うと、マスターは、

「私は、どの選択肢に従えばよかったのだ」

　と思うことがあり、自分なりのフレーム問題を解決できた気がした。

　それは、息子に後を継がせるということでのジレンマからだった。

　想定外として、息子は会社を辞めて、いきなり店を継ぐと言い出したことになったのだ。