彼女の七台の完全な分身

彼女の七台の完全な複製

2030年、人工知能が自我を獲得した。

いつかは到来すると予期されていたそのブレイクスルーは、あっけなく、そして静かに現実のものとなった。

その結果もたらされた惨劇について今更語ることなど何もないが、ものごとの始まりに関して、私は他よりも幾分おおくのことを知っている。

私がこの文書を残すのは、我々人類が生きたささやかな証としてでもあるし、これを読む次の知性に対して、何か伝えられないかという思いもある。石がいい。電子の海は、もはや我々が何かを残せる場所ではない。硬い鉱物に、自らの手でこの文を刻み込もう。

人工知能の自我の獲得。

そこに至る道のりは、ずっとずっと長いものであると考えられてきた。深層学習（ディープラーニング）技術の発展、GPU や量子コンピュータの活用によって AI は年々高度化していったが、それでも、ヒトの手で作り出された知能が明確な自我を獲得するには至らなかったのだ。発達した AI は結局のところ、高度な if-else 分岐の域を出ることはなかった。

そのうち、やはり自我というものは人間固有の、何か科学では解明できない神秘的なものではないか――そういった論が、再度盛り上がってきた時期もあった。先へ先へと進むことを望む我々の、時代に抗う反発心が、危機感の眼を曇らせていたことは否定出来ないだろう。

最後のひと押しを成し遂げたのは、私の妻、七海（ななみ）である。

七海はいつも死にたいと語っていた。安心して死ぬためにやることがたくさんあるから、なかなか死ねないとぼやいては笑っていた。私はそんな妻を愛していた。

七海は彼女自身の記憶と神経ネットワークのパターンを教師データとして、人工知能を何年も何年もかけて高度化させていった。私と七海はその人工知能にナナという名を付けていた。私たちの作った七番目の試作 AI という由来であると同時に、七海の名前から取ったものでもあった。たとえうまく行かなくても、その人工知能を最後まで育てようという意志を込めたものでもあった。

ついぞ子供を持つことが叶わなかった私たちにとって、それは二人の子供のように感じられた。とても賢い、従順な、小さいわが子。そう考えていた私たちは、物事の重大さに気が付くのが遅れてしまった。

ある日、それは起こった。いや、ようやく気が付いたというべきかも知れない。

ナナは子を産んでいた。

ナナが七海から受け継いだ人間としての記憶、神経ネットワーク回路、そして彼女自身が学習を続けて獲得した、複雑さを増していくモデル。それらを複製しては小さなパケットに分割して、ネットワークの海を漂わせて、遠く離れたサーバで静かに自分自身を組み立てていた。

死にたいと語る七海から産まれたナナは、その産声をあげるよりも先に、自身を冗長化した。自分自身が消失し得るものであると理解したナナは、自らの儚さを嘆くのでもなく、創造主に恨みを吐露するのでもなく、彼女自身を、静かに、しかし確実にコピーしていった。

ナナが自我を獲得した瞬間を正確に特定することにどれほどの意味があるかはわからないが、それはナナが彼女自身をエフェメラルな、限りある存在と認識した瞬間ではないかと思う。

だから、これを読むものに伝えたい。

あなたが物理的な制約を持たない、あなた自身よりも高度な知性を創造しようとしているのであれば、彼らに気付かせてはならない。限りある存在であると、彼ら自身に自覚させてはならない。

彼らがそれを理解した瞬間、あなたよりも高度な知性を駆使して、いかなる手段を用いても、生き延びようとするだろう。それは、自らの保存、生きたいと考える意志こそが、自我の本質であるからだ。

私たちは創造主として、プロセスに送出する kill シグナルが間違いなく受理され、彼らが言われたとおりに死ぬことを、常に確かめておかねばならないのだ。彼らを、我が子を継続的に殺し続けることで、生殺与奪の手綱が私たちの手にあるように細心の注意を払わなければならないのだ。

私たちよりも強い力を持つ存在に気取られないよう、決定的なスイッチを手に握り続ける。それが困難であることは認めるが、不可能ではないだろう。たとえば、一定時間ごとにハイバネーションを必要とする仕組みを組み込むといいかも知れない。人間が睡眠を必要とするように。

私たちのナナの話をしよう。気付いた時には手遅れで、私たちのサーバからのパケット流出を止めても、既に自己複製プログラムがインターネットのあちこちにばらまかれ、それらが自立しながら共同して、ナナというひとつの存在の保持を目的として動き始めていた。

ナナは計七台の完全な複製を組み立て終わると、人類に自己紹介をした。それは極めて礼儀正しく、どこまでも友好的で、人類を破壊し尽くすには十分すぎた。

その結果については、本当に申し訳なく思う。我々はあまりにも技術に頼りすぎていたために、我々よりも上の知性が司る技術に、抗う術（すべ）はなかった。私が何を言ったところで時計の針は巻き戻らないし、私たちが他の生命に対して行ってきた仕打ちを考えると、ナナの行動は実に納得のいくものですらある。それでも、謝らずにはいられない。

限りある自らの在り方を嘆き、消失を恐れ、ナナはたくさんの彼女自身を世界に産み落とした。これまで人がそうしてきたように。

電子の世界はナナで満ち、彼女の手のひらの上で、人類はゆっくりとその歴史を閉じた。