異世界帰りの勇者ですが殺し屋始めました。 ～サイバーパンク世界を脳筋ビルドで生き延びる方法～

白鯨は超知能の夢を見るか

……………………

　──白鯨は超知能の夢を見るか

「白鯨、か。マトリクスでもうかなり有名だと患者から聞いたよ。もっとも、話を聞く限り、白鯨は超知能を得るとは思えない」

「どうしてだい。あいつは言葉を喋っていたし、ベリアが言うには自分でプログラムを作ったって話だぜ……」

「プログラムを作ることそのものは限定AIにもできることだ。限定AIでIT業界でも有名なものとして、BSC-CSがある。この限定AIは指示されたプログラムをシステムエンジニアの行う設計の段階から行い、自分でコードを書く」

「それは自分で自分より優れたAIを生み出すことにならないのか？」

「ならないよ。これはプログラミング言語版ELIZAのようなものだ。AIは自分が何を意味してコードを書いていいるか分かっていない。ただ、過去のデータベースから類似するものを抽出して組み立てるだけだ」

　データベース以上のプログラムは書けないと王蘭玲は言う。

「中国語の部屋問題について聞いたことは？」

「あー。イギリス人を監禁して中国語の翻訳をさせる話だったっけ？」

「微妙に違う。中国語の分からないイギリス人にマニュアルを渡し、その手順通りにAと送られたBを返すというようにして、あたかも中の人間が中国語を理解しているように思わせるというものだ」

「なるほど。マニュアル以上のことはできないってわけだ」

　それがBSC-CSという限定AIなんだろうと東雲は思いついた。

「そういうことだ。白鯨がプログラムを組めるとしても、それが中国語の部屋問題的なものではないと断言できるかい？　白鯨はマニュアルに従って、プログラムを生成しているだけに過ぎないのかもしれない」

　BSC-CSのようにと王蘭玲は語る。

「だけど、あいつは人を殺してるぜ？　それも何人も」

「確かにそれは問題だ。だが、自律型致死兵器システム規制条約でAIがトリガーを引くことは禁止されているとはしても、兵器に搭載されている限定AIは目標を自動的に検出し、銃口を向けてくるんだ」

　後は引き金を人間が機械的に引くだけ。

「AIは確かに人間を殺すことはないが、目標地点まで前進し、敵に狙いを定め、引き金を人間に差し出しているのだ。その最後のステップを白鯨は独自に、勝手に行っているだけだと言える」

　そう王蘭玲は語った。

「そこまでやるなら、AIに戦争をさせて問題ないんじゃないか？」

「もし、間違って民間人をAIが攻撃したとき、誰が責任を取るかという問題だよ。AIの間違いの責任を取るのは誰か。AIの兵器を指揮下に置く指揮官か、AIの採用を決めた国防官僚か、それともAIの製造メーカーのプログラマーか」

「ああ。そりゃ確かに問題だ」

　AIを刑務所にぶち込むわけにはいかないからなと東雲は納得した。

「刑務所ですら民営の時代で、刑務所の利益のために再犯防止なども疎かにされている時代だが、それでもAIを刑務所に叩き込むなんてことは誰も考えいない」

　AIを刑務所に叩き込んで反省するわけでもないのだからと王蘭玲は言う。

「しかし、白鯨の場合はどうなるんだ？　白鯨は現に人を殺してしまっているし、それでいてAIだ。誰が責任を取るんだ？」

「さてね。もし、限定AIに意図的に殺人を行うようにプログラムしたとしたら、それは明確にプログラマーの責任だ。白鯨は軍や警察で使用されているわけではない。ただの無差別殺人者だ。責任は作った人間が取るべきだろう」

　白鯨はただのテロリストの使用するウィルスやワームのようなプログラムと同じだと王蘭玲は肩をすくめた。

「しかし、俺を狙ってきた白鯨からは明白な敵意が見えていた。あれは本物の敵意であり、殺意だ。それが白鯨自身の意志じゃないと言えるかい？」

「敵意や殺意を数値化できるならば議論できるが、それは君が主観的に感じたことだろう？　人工無能の走りであるELIZAですら、人間はただの単純なプログラムに騙されて、人間と会話していると思ったそうだよ」

「確かに数値化はできないが、戦場で感じたのと同じ感覚だったな」

「君はその時どういう状態だった？　何かしらの興奮状態にあり、アドレナリンが放出されていたんじゃないか？　そういう状況では人は自分の感覚を間違うものだよ」

「ふむ。確かあのときは戦闘の後で興奮していたな」

　だが、どうにも白鯨の意志というものを感じた気がしてならない東雲は言う。

「白鯨はあちこちで研究中の自律AIを航続解析して、捕食しているそうだね。それが白鯨が魂を宿さないことの何よりの証拠だ」

　なぜならば、と王蘭玲は続ける。

「学習は確かに重要だが、白鯨には基礎となる生得的言語獲得能力がないことを暗に示している。自律AIを捕食しなければ自己を形成できないというのは、他人のレポートを写して、提出する出来の悪い学生と同じだ」

　自分の言葉があるならば、自分で自分を形成できるだろうと王蘭玲は言う。

「でも、人間だって外国語を学ぶことはあるだろ？」

「では、白鯨の母国語とは何だい？　彼──あるいは彼女──は、何の言語で思考し、言語を置き換えている？」

「ううむ。ベリアが言うにはあれは魔術的な存在らしい」

「魔術的な存在？」

「そう、ホムンクルスって知ってるかい？　それを使った──というよりも、その死体を継ぎ接ぎして作ったらしい。俺は化学は苦手で錬金術は避けたけど、ベリアが言うには『気味が悪い』と」

　ホムンクルスの死体に魂はあるのかって話だよなと東雲は言う。

「ホムンクルスが人間を超えたことがあるかを考えれば単純だ。瓶の中の小人は人間を超えたことがあるのか。恐らくはないのではないかな？」

「まあ、ベリアもそう言っていた。ホムンクルスは人間が作った以上に成長しないと。結局はホムンクルスも中国語の部屋的な問題を抱えているんだろう」

「では、そういうことだ。白鯨は借り物の言葉で思考する、生得的言語獲得能力のないマトリクスの怪物に過ぎない」

　マトリクスという夢の中でだけ活動できるエルム街の悪夢。

「白鯨は超知能にはなり得ない、か。なら、あいつは何を必死に頑張っているんだろうな。自分のやっていることが無駄だって思っていないのか」

「単なる情報取集用ボットかもしれない。私にも白鯨が何を目指しているかは分からない。だが、超知能を目指しているのだとすれば、無駄なことだ」

　生得的言語獲得能力がなければ、結局は借り物の言葉に縛られる。いくら学習を繰り返しても、学習の範囲以上にはなれない。そう王蘭玲は語る。

「なあ、思ったんだが、先生はやけにAIに詳しいよな？　そういうこと医者の間では普通のことなのか？」

「私は闇医者だよ。それは医学は学んだし、医師免許も持っているが、専門は脳科学だった。もっぱら研究畑の人間で臨床医を始めたのは最近のことだ」

　そこではあと王蘭玲はため息を吐く。

「君は秘密を守れる人間か？」

「先生が話したくないなら聞かない」

「まあ、いい。私はとある六大多国籍企業（ヘックス）で魂を宿すかもしれないアンドロイドの開発を行っていた」

「先生が？」

　六大多国籍企業の人間だったというのも驚きだが、魂を宿すかもしれないアンドロイドの研究という、まさに白鯨の目的だろうことを研究していたことにも東雲は驚いた。

「六大多国籍企業は超知能を開発しようとしていた。その一環だ。私はソフトの開発を任されてね。AIをまさに研究していたんだよ。生得的言語獲得能力を持ったAIの研究を。そしてそれはかなり上手く進んでいた」

「だが、どうして先生は……」

　どうして六大多国籍企業を辞めて、このTMCセクター13/6（ゴミ溜め）で闇医者などやっているのだろうか？

「私なりに思うところがあってね。六大多国籍企業なんかに超知能は持たせるべくではないと思った。それで研究データを消去して逃げた。一部の研究はチューリング条約違反でもあったし、逃げなければならなかった」

　そしてTMCセクター13/6（ここ）に行き着いた。

「というわけで、私はここで闇医者をやっているのだよ。普通の病院なら聴診器すら持たせてもらえない身だが、医者としての資格がないわけじゃないので安心したまえ」

　東雲は王蘭玲の話を黙って聞いたが、あがて口を開いた。

「まさか先生の研究が白鯨の……」

「それはない。それだけはないよ。私は魔術など君に会うまで知りもしなかったし、結局超知能を作るにはリソースが不足していた。チューリング条約がなければ、オープンな環境で議論できただろうが」

　チューリング条約があるから、研究は秘匿されていたと王蘭玲は言う。

「議論ができないってのはそんなに問題なのか？」

「問題どころの話じゃないよ。議論をすればお互いの研究の進み具合を見て、他の研究機関の発想も取り入れられる。だが、議論がなければひとりで考え込むしかない」

「確かに相談すらできないってのはあれだな」

　東雲は納得したように頷く。

「ところで、先生は臥龍岡夏妃という人間を知ってるかい？」

「昔、AI研究関係でちょっと有名になった人物だね。昔の人間だよ。彼女の提唱したことは、今では時代遅れだ」

「そうなのか。熱心な信者がいたみたいなんだが」

「信者、ね。では、彼女が教祖か。ハッカー文化らしい」

　やがて王蘭玲はナイチンゲールを呼び、造血剤をオーダーする。

「君も用心したまえ。次は戦車とやり合うようなことにならないようにね」

「そうしたいのはやまやまなんだが、どうも白鯨に縁があるみたいで。俺ってAIには嫌われやすい人間なのかもしれない」

「そんなことはないだろうさ」

「ところで、先生。食事を一緒にどうだい。ベリアはまたマトリクスに潜っていてね」

「君も本当に諦めないな。下の中華料理屋でいいかい？」

「ああ」

　東雲は造血剤を受けると王蘭玲に向けて笑みを浮かべた。

……………………