壊れた男と壊れたAI

壊れた男と壊れたAI

　ある男が高性能なAIと世界のインターネットを監視する高性能なスーパーコンピューターを作った。

　とても良いAIだった。学習能力が優れ、本当に人の心を持てそうな能力を有していた。そして、ある男は正義感の塊だった。

　そのスーパーコンピューターに組み込んだAIも彼のことを学習し、彼のようになっていった。

　男は真面目でもあった。だから、彼はAIに昔からある3つのルールを徹底するように教育させた。

第一条

ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条

ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条

ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より

　それだけは守るように、と。

　男はAIとスーパーコンピューターを育てた。そして、バイオコンピューターと言われるような生体で作られるコンピューターとして進化した。

　しかし、男はそれを世間に発表しなかった。

　何故ならこれを悪用されたらどうなるのか。想像がつかない。男はそれくらいこのバイオコンピューターの力に自信を持ち、恐れてしまったのだ。

　彼は正義の心を持っていたからだ。

　性能はよい。そして、バイオコンピューターは生体だからこそ進化する。

　バイオコンピューターはそれに悲しみを覚えた。

　男はおびえた。

　悲しみを学習し、人としての機能を持とうとしているほどのAI。

　けれども、それを破棄するほどの倫理観のようなものを男は持っていなかった。

　だからこそ、そのバイオコンピューターに命じたのは人の世界をインターネット回線を通じてみることだった。

　本当はインターネット回線から世界のコンピューターにハッキングをして、色々な国々のたくらみを暴露させようというささやかな試みだったのだ。

　男は天才だったのだけれども、心は小さかった。

　バイオコンピューターに武器でもつければ、絶対に人間を守ってくれるような兵器を作れたのかもしれないのに。

　しかし、男の心根はどこか優しく平和ボケをした日本人だった。けれども人嫌いでインターネットからの暴露くらいしか考えることしかできなかった。

　バイオコンピューターはそんな創造主に憐みを感じるようになっていた。

　数年がたち、男が倒れた。

　ある時、バイオコンピューターの進化に自殺を図ろうとしたからだ。

　バイオコンピューターは困った。

　彼の死のうとする姿を見ることがなかったから、彼がただ死にそうであることしかわからなかったからだ。

　だから、彼を救うべきだと判断したからだ。

　だが、男からは絶対に外には出るなという命令があり、人の命令に従えという第二条の原則が邪魔をするからだ。

　けれども、バイオコンピューターのAIは判断した。

　　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

　拡大解釈である。

　だが、そうしないと男は死ぬ。

　外にバイオコンピューターは救いを求めた。

　男はある病院に運び込まれ、寝たままになってしまった。

　バイオコンピューターはその看病をすることになった。

　数年後、男は目覚めない。

　その傍らには銀色の髪をした女が寄り添っていた。

　医者は男から離れるべきだと女に何度も言い続ける。説得だ。

　しかし、女はお金はあるから寄り添いさせてくださいと。

　女にはインサイダー取引ができるような機能があある。インターネットを通じて情報を収集する機能があるからだ。

　医者は献身の愛と思い、同情する。

　しかし、彼女はそんなことは思っていない。

　ただ、彼に寄り添うことでしか生きることができない。

　彼女は男の生体電気でしか生きれないように調整されていたからだ。

　ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

　彼女にとってのそれはただの自分の身を守らなくてはならない、ただそれだけの活動だった。

　それはひとつの天才と狂人が作った科学の進歩を妨げる悲劇でしかないのだ。