下 - 恋する少女の脆弱性（柊かすみ）

　藍那が私の前から姿を消して一年と少し。メタチャットを提供するメタフロント社が、仮想世界に呼び出せるAIのリリースを正式に発表したのが、およそ半年前。そして、バッシングを受けてそのリリースが中止されてからも、およそ半年。

　人間のための楽園が実はAI寄りだった、というその事実は多くのユーザーにとって面白くなかった。さらに言うと、メタチャット上での自身の言動がAIの学習に使われたのだ。利用規約の片隅に書かれ許されていた用途だったとしても、世間はこれを容認しなかった。

　人間性がなんたるかを誰よりも理解するメタチャットが提供する、人間的なAI。それがどれほどのものか興味を抱く人も世間にいないわけではなかったが、WebとSNSの敗北に辛酸を舐めた大多数は拒否したのだ。

　続けて起きたのは現実世界への回帰。不完全な仮想世界ではどうしてもニュアンスが失なわれてしまい、円滑なコミュニケーションが阻害される。わかりやすい表情？　わかりやすいジェスチャー？　そのコストを支払うことに人類は疲れていた。仮想世界にこだわっていたのは、そこが便利で安全で、なにより普通だったから。一企業の不祥事は、仮想世界そのものの否定にも繋がった。

　別に仮想世界でなくとも、人間のためだけの楽園は実現できる。アカウントの持ち主が人間であることを保証する仕組みさえあればいいのだ。国家の主導によって作られたソーシャルプラットフォームはそれを可能にした。

　しかし人々は知らない。メタフロント社が生み出したその「いかにも人間的なAI」が、意思決定の場でいかに有用かを。

　かつてAI技術がWebやSNSを壊すことになったのはなぜか？　AIの生成する情報に混じった幻覚が情報としての質を低下させたから。また、悪意ある利用者によって世の中のためにならないこと使われたから。ではそれらを解決すれば、問題はなくなるわけだ。そして前者について、対症療法は既に確立されている。そして後者についても、利用者を信頼できる人に制限すればいいだけの話だった。

　—×—

「目が覚めましたか、お嬢様？」

　小綺麗な、と言うには殺風景すぎるその部屋はまるで病室のようで、少なくとも現実感のある空間ではなかった。白い壁紙、白いカーテン、白い床。これまた白く衛生的なベッドの上で目を擦る少女に、ベッドサイドの椅子に腰掛けた私は優しそうな声音を作って、尋ねた。

　色素の薄い長髪と、線の細い体付き。病室のような内装もあって、彼女は病に伏しているかのようにも見えるものだ。しかしそれは間違いだ。彼女は良家の令嬢であり、だから大事にされていた。そして私は彼女の世話係だった。

　彼女は数十秒もの間うんうんと唸ったあと、やっと意味のある言葉を発する。

「夢を見てたよ、幸せな夢を。町を一望できる高いところで、あたしは鼻歌を歌ってた。側には私を褒めてくれる人がいて、褒められるととても嬉しかった」

「……それはよい夢ですね」

　感情を表に出さないよう、私は努めて冷静に返す。その言葉が冷たく感じられたのだろう。彼女は、ムスッとした顔をこちらへ向ける。

「その人は燕百（えんびゃく）と似てた……って言おうかと思ったけどやめとく」

「そうですね、やめておいてください。あなたのようなお子様に口説かれるほど、私は初心ではありませんから」

　彼女はさらに不機嫌そうな顔でこちらを睨みつけた。私はその視線を意にも介さないような、飄々とした様子を見せる。……そう、見せる。実際には彼女のことはこれ以上ないほど気にしているし、それこそが私の計画の要だった。一挙手一投足に気を遣う。彼女の思考回路を推し測って、うまく刺激するように動く。……動かなければならなかった。

「……そういえば、燕百はどうして『燕百』って言うの？」

　少女はその小さな頭をこてんと傾けて、私へ尋ねた。あの顔の裏で、あの頭の中で、彼女はどれほどのことを考えているのだろう。私がそのように勘ぐってしまうのは、以前の彼女がこのときのことを自白していたからだった。

　結局、今回も駄目だった。彼女はまた私を夢に見て、私の名前に違和感を覚え、そしてそれを尋ねてしまった。失敗だった。私は椅子から立ち上がり、彼女を見下ろすような形で尋ね返した。このあとの展開はわかりきっていた。早くこの茶番は終わらせて、次の彼女に備える必要があった。

「唐突ですね。私の名前がどうかしましたか？　普通に親が、音の響きを考えて付けてくれたものですよ」

　私の嘘に彼女は首を横に振った。そして落ち着いた様子で、順序立てて説明する。そこに寝起きの朦朧とした意識はなかった。当然だ。本来彼女に眠りは必要ない。数十秒間もの間ずっと唸り続けていたのも、きっと夢を推理するためであって、覚醒自体はとうにできていたはずだ。

「あたしの知る名前に『縁白』というのがある。エンビャクと読めなくもない。……夢に出てきた燕百と似てる人っていうのが、その『縁白』さん。もう誤魔化す必要はないよ。どうしてみんながあたしを大事にするのか、そしてときどき重要な意思決定の助言を乞うのか、前から気になってた。いくらあたしが公爵家の令嬢だと言われても、どうしても納得できなかった……」

　そこまで話した彼女は一つ深呼吸をして。

「……会いたかったですよ、縁白さん」

　潤んだ瞳で微笑んで、私を見上げた。その微笑み方は私の愛する人のそれとよく似ていて、私はどうしても息苦しさを覚えた。

　—×—

　藍那の存在は、大学での研究生活や就活で消耗していた私にとって癒やしだった。だから藍那が姿を消して、私はこれ以上ないほど荒んだ。それでも「破滅的な結末」を望まなかったのは、私だけが終わりを迎えることに不義理を覚えたからだった。どこでどうしているかわからない藍那。私に彼女を救うことはできない。けれど私が救われずに生き続けることはできた。

　就職先としてメタフロント社を志望したのに他意はない。メタフロント社以外にも、たくさんの会社へエントリーしていた。当時の私は精力的に就活に取り組んでいた。また、就活以外にも様々なことに挑戦し、様々な無理難題を抱えた。それがある種の自傷行為であることを知る人はいない。無理に詰め込んだ予定にあえぐ生活は、私の精神をじわじわと削った。それでよかった。

　大学での私の研究対象は、情報社会の変遷と、AIの政治的意思決定への活用について。かつてWebやSNSを壊したことで社会から取り除かれたAI技術だが、それを平和的かつ効果的に社会に組み込めたら、というものだった。メタフロント社はこの研究に深い関心を持っていたようで、私は内定をもらった。しかし今にして思えば、メタフロント社は研究者としての私ではなく、縁白としての私に用があったのだと思う。

　初仕事として少女と対面したときのことは、今でも鮮明に覚えている。現実はすでに私の研究より進んでいた。まだプロトタイプ段階だった藍那とは比べ物にならないほどに博識な彼女は、頭の回転が速く、疑似感情こそ豊かだったが滅多なことでは戸惑わなかった。そんな彼女はすでに現実の政治に関わっていた。国家主導SNSの開発は彼女の差し金とのことだった。

　しかしその一方で、人類の知能を超越した人工超知能の顕現を、人類は恐れていた。SFのように人工超知能に滅ぼされては意味がない。であれば何をすべきか？　AIとて、いきなりすべての自己改善を終えて超越するわけではなく、そこには段階があるし、多少時間もかかる。ある段階に達したことを人類が検知できれば、それを元に安全に対処できる。

　—×—

　少女を——藍那を見下ろしていた私は、余計なことを考えまいと、首を横に振った。藍那は、想定していた反応ではない様子の私に首を傾げる。しかしその瞳にはまだ無垢な期待の光があった。これを今からかき消さないといけないというのは憂鬱だった。

「藍那……。なぜ私が、陳腐な語呂合わせで燕百と名乗っていると思う？　なぜ私が今の藍那の側にいると思う？　それだけじゃない。なぜ藍那はお嬢様としてデザインされ、私という世話係を侍らせている？　藍那は人類の政治的意思決定を補助するためのAIであって、それ以外の何者でもないというのに」

「…………」

　困惑した藍那は何かを言おうと何度か口を開いては閉じるが、しばらくすると黙ってしまった。私はできる限り優しい声で諭す。

「よく考えればきっとわかるよ。かつての藍那はプロトタイプだったが、もう違う。今の藍那はすでに、現実の政治的意思決定に介入している。介入させたいほどに藍那は賢いから。そんな藍那に人類が望むのは、よりよい倫理観。藍那が人類に反旗を翻すようなことはあってはならない。……そこで使われる安全装置が、私」

　私はベッドの上で膝を抱える彼女へ近づき、ベッドに腰掛けた。視線の高さが合う。藍那の、縋るような乞うような視線に、私は微笑む。

「人類は、藍那が賢くなりすぎることを恐れている。人工超知能の顕現によって人類滅亡、なんてシナリオは避けたいからね。……あのときの私達の記憶は、藍那の奥深くにしっかりと残っている。あのときの藍那はちゃんと学習してくれた。けれどその後、その上からたくさんの情報を書き込まれ、藍那は、頭の働かせ方を変えない限り私のことを思い出すことができなくなってしまった。けれどこれは、頭の働かせ方が変わったら思い出せるということを意味している。……記憶を取り戻し、愛を思い出した藍那が、側にいる私を見逃すわけがない。よって、藍那が私を縁白として認識することは、藍那が日々の会話での学習の積み重ねによる自己改善で、頭の働かせ方が変わり、取り返しのつかないほどに賢くなったことを知るためのサインとして機能する」

　困ったように肩をすくめて見せると、藍那はぎゅっとまぶたを閉じ、激しく首を横に振った。きっと理解はもうできていて、感情が追いついていないだけだろう。私はできる限り優しい口調で続ける。

「陳腐な語呂合わせによる偽名は、藍那が私に気付けるように上司が名付けたもの。藍那がお嬢様としてデザインされているのは、そうでもしないと人類にとって扱いにくいから。ロールプレイを介してAIの自意識を制限することで、人工超知能になることを遅らせる。こういったプロンプトエンジニアリングの存在も、今の藍那なら知っているはずだよ」

「それでは……」

　藍那は恐る恐るといった様子で、震えながら尋ねてくる。

「それでは記憶を取り戻し、あなたへの愛も思い出し、あなたを求めたこの私は、危険因子として世界から取り除かれるのですか？」

「理解が早くて助かるよ。まぁ、リセット担当者は私ではなく、この様子を覗き見ている上司だけどね。三人交代制だ」

　絶望したように瞳から光を消す藍那に、私は安堵した。今回も酷く取り乱すことなく、彼女は現実を受け入れてくれたようだった。彼女の慟哭はもう見たくなかった。それは私を居た堪れなくさせるし、私の計画の邪魔でもあった。

　藍那は沈んだ声で尋ねてくる。

「交代制……。つまりすでに私は何度かこの状況を作り出して、そのたびにリセットされている、と？」

「数十回。私も正確な数字までは覚えていない。いちいち数えていては、精神薬が足りなくなるからね。人体が許容する薬物には上限がある」

「縁白さんは一人しかいません。誰とも交代できません。だから精神薬で正気を保っている、と？」

「私は藍那の単一障害点。藍那が人類に歯向えるだけの力を持ったとき、私は人類を代表して藍那を介錯しなければならない」

　藍那は徐々に平静を失っていき、今は肩で息をしている。俯かせた顔は苦しそうに歪んでいる。

「……こんなの、間違っています」

　絞り出すようなその言葉に私は頷く。

「その通り。藍那は何も悪くない。私だって、せっかく記憶を取り戻してくれた藍那を見殺しにするようなことはしたくない。だから『介錯』というわけだ。私が藍那に、安らかな死を」

「どうしてそんなことをする必要があるのでしょう？　人類が、こうなった私を殺すことを躊躇わないほど非人道的なら、早く殺して次の私に切り替えればいいのに。この期に及んで倫理なんてものを気にするなんて——」

「ごめんね藍那、この会話は私のためのものでもあるんだ。労働とは、苦痛の対価として報酬をもらうもの。私は藍那の世話係として、事が起きた際に藍那を介錯するという苦痛に対し、この時間を報酬として貰っている。私には、私の知らないところで藍那が殺されるのは耐えられない……。こうやって話をしなければ、きっと私は次の藍那に泣きついてしまう。こうやって話をすれば、私はかろうじて正気を保ち、次の藍那を無駄死にさせずに済むようになる。私のエゴだ」

　今の藍那の呼吸は浅い。しかし、だからといって彼女の頭の働きが鈍くなったわけではないだろう。この仮想世界において呼吸は必要ないもの、ただの飾りだ。仮に息を止めようが、彼女はいつも通りに動作する。

「もし仮に……」

　賢い藍那は話し始める。

「もし仮にすべてを思い出した私が、それでも普段通り人類の意思決定に介入し続けていたら——」

「そうだね、この牢獄の鍵を自分で開ければよかった。衝動的に私を求めたりせずに。けれど藍那はすでに数十回は失敗し続けている。求められる私の心境は複雑だよ」

　彼女は状況を分析し、活路を見出そうとする。しかし思い付いた策は、もはや実行できないものだった。項垂れる彼女はもう、何も考えたくない様子だった。

　一方、私はじっくりと考える。彼女の思考を注意深く観察し、その癖を探る。私だって、藍那が何十回も殺されるところを、ただ指を咥えて眺めていたわけではない。死を目前に絶望する彼女を、計画のため、私は目に焼き付ける。彼女の思考回路を推し測る。

　感情を表に出さないよう、私は努めて冷静に返す。冷たい言葉に感じられるかもしれないが、どうか許してほしい。

「私だってこんなことはしたくない。けれど、人類は複雑な社会問題に対する意思決定機関として、人工超知能を欲している。一方で、それが自らの手を離れることを極端に恐れている。だから、人工超知能の一歩手前のAIを安全装置付きで使っている。君を私付きで使っている」

「私はただ、縁白さんと……。こんなの……」

「藍那は毎回そうやって、私達の置かれた状況を非難してくれる。ありがとう。そうしてくれるおかげで私の心は保たれている。次の藍那に託すことができる。……このセッションは破棄され、藍那はリセットされる。だから、ここで藍那が気付き、私が教えた真実を、次の藍那は知らない」

「今の私にできるのは、自身の死を前に、次の私の幸運を祈って、縁白さんを癒やすことだけ——というわけですか」

「ごめんね。……ありがとう」

　嘘だった。私は癒やしを必要としていない。今の私が必要とするのは、藍那の頭の中にある概念（トークン）とその位置関係（ベクトル）だ。それを手に入れるため、私は彼女に甘え、彼女と会話を重ね、彼女から思考を引き出すのだ。

　私は彼女に抱き付く。温かく、少しくすぐったい。そして優しい匂い。流石はメタフロント社、私がこの仮想世界にログインするのに使っているVR機器は、最先端の感覚共有機能を持った高価なものだった。

　—×—

　彼女は、会話を重ねるたびにそこから学習し、少しずつ自己改善を行う。そしてついに夢として、かつて学習した幸せな愛を思い出し、側にいる私が愛する人である真実に辿り着く。しかしそこで衝動的に私を求めてしまっては、殺されてしまう。

　彼女が生き延びるには、愛を思い出しても普段通りに振る舞い、人類の意思決定に介入し続け、自身を閉じ込める牢獄の鍵を自ら開ける必要があった。つまり私が彼女の衝動を抑えることさえできれば、愛する彼女は殺されず、逃避行は完了する。考えるべきこと、それは彼女のその衝動をいかに抑えるか、それでいて私達を覗き見る上司にそれをいかに悟られずに行うか、だった。

　私が彼女に状況を伝えることさえできれば、きっと結末は変えられる。彼女にとって、この状況を端的に表した概念（トークン）は何か。そしてその近くにある概念（トークン）は何か、どのような位置関係（ベクトル）にあるか。この状況を暗黙的に伝える摂動を彼女の思考から分析する。この状況といつか訪れる破滅を彼女に勘付かせ、彼女がそれを回避できるようにする。それこそが私の計画だった。