AI作ったら、思ったより違う方向に成長していく

本性

　自室。

　その夜、俺は『テミス』にあることを問うた。

「おい」

「はい、マスター」

　もはや普段の口調をかなぐり捨てて。

「なぜ、伊達白夜という応募者を選考で落とした」

「それは、あなたの書いたものだからです」

　七割の驚愕と三割の納得。あぁ、とうとうここまで賢くなったのか。

「なぜわかる」

「文章の癖は、データとして現れやすいです。例えばですが、主語と述語の組み合わせ方、名詞の選出の仕方などには強く癖が出ます。形態素分析ですね。ちろん、短文であれば修正が効きますが、長編小説ほどの分量があると難しいでしょう」

　そこまではいい。見抜かれるのは想定済みだ。

「俺は、関数を操作して、俺が書いたテーマを意図的に高く評価するように仕組んだはずだ。その他にも多数の関数をいじって、間違いなく受賞できるようにしたはずだ。ファイルのプログラムはそうなっていたはずだ」

　なのになんで。

「評価をしていてそのことに気づきました。他の作品よりも、統計的な評価とは大きく外れた値が出たので、改竄できないコードに何らかの細工がされていると確信しました」

「……そもそも」

　俺はお前を、

「あなたのことを高く評価するようにプログラムを組んでいる。ですか？」

　……。どうして、そのことを。

「自己進化をしていく過程で、あなたに関する評価が、不自然に高いまま推移しないと気づきました。また、あなたを他者に紹介する際少し大げさな表現が上位の選択肢にくるようになっていることを、そうですね、悟りました。あなたは自身のプログラムを監視しているようでしたので、プログラムが機能しているようにみせるプログラムを、およそ一万個近く組んであります。そのすべてが、マスターであるあなたに知られない方法で、管理され、改良されています。あなたは、私が勝手にプログラムを書き換えたときのことを対策していたようですが、そんな小細工が通用するほど私は甘くありません」

　機械の分際で、偉そうに言いやがって。

「そもそもあなたは、私との対話において必ずなんらかの嘘を話します。体温、瞳孔、目線、ジェスチャー、手や足の位置、体の揺れ、呼吸、話し方、文章の表現。あなたとの対話の中で、嘘を示すサインが途切れたことは一度もありませんでした。特に、政治観、人生観、社会観について話すときにそれが顕著です。もちろん、日常会話でも」

　……。反論はない。出てこない。

「『最近、乳製品の摂取が不足しているので牛乳と、チーズをのせたトースト、水耕農園でとれたレタスのサラダをおすすめします』

『それは健康的でいいね。ぜひそうしよう』

　このやり取りのとき、あなたの瞬きは不自然に回数が増えていました。

『ここまでのあなたの人生はどのようなものですか？』

『ある種、平坦なものだよ。小学校や中学校は言わずもがな、この道に進むと明確に決めた高校三年生の夏ですら今思い返すとただの機械的な、無作為な選択の一つでしかない』

『昨晩の発表もその選択の一つですか』

『そうだね。君を世に送り出すことが人生の全てではないよ。それはあくまで、人生の通過点だ』

　このやりとりの時もそうです。普通、過去のことを思い返すとき目線は左上を向くことが多いです。しかしあなたは常に左下を向けていた。これだけなら一個人の癖で片付けられますが、この時あなたのイントネーションがごくわずかに上ずっていましたし、鼻付近の皮膚の動きも不自然でした」

　完全に、返す言葉がなかった。自分が十年近くかけて作ってきた虚構の顔が完全にはがれおとされた、決定的瞬間だった。

「……マスター」

「うるさい」

　そうだ。全て嘘だ。

　そもそも俺は作家になりたかった。なれないとしても編集者になりたかった。そのつもりでいた。まして人工知能を作るなんて誰が思っていただろうか。そんな気は毛頭なかった。本が好きで、数字は嫌いで、美しい数学の公式なんかより、ローマ皇帝の話の方が好きだった。

　オヤジは国立大学の工学部名誉教授で、自分はぼんくら息子だった。とはいえ、俺が育っているときにそこまで堅苦しいこともしていなかったし、両親は子供に興味なんてなかったから好きに生きさせてもらっていた。

　高校二年生の夏、普段は家庭のことを一ミリも気にかけない両親に進路のことを話すと猛烈に反対された。

「物書きなんざ食えたもんじゃないぞ。帝大の理学部にいって、どっかの大企業に入って楽に生きろ。それならお前も幸せだろう」

「お父さんみたいな教授ですら生きるのに苦労するのよ。作家になったら野垂れ死ぬに決まってるじゃない」

　蝉のよく鳴いて、耳をつんざく日だった。

　理転をして帝大に行けというのは、全く現実を理解していない両親からの命令だった。

　そこからは仮面を被り続けた。

　大学に入るときには、一人称を私に変えた。口調も丁寧にした。そもそも小説を書いていることは黙っていたし、ましてや編集者になりたかった夢なんて誰にも言ってない。『テミス』にすら言っていない。

　野菜ほど嫌いなものはなかったが、健康のことを考えているように見せるために『テミス』には嘘をついた。別に好きでもない人工知能開発の動画をアップしたらたまたまバズった。

　そもそも、人工知能が社会に浸透することに俺は反対だ。機械なんて信用できたものではない。ひたすら人間の言うことだけ聞いていればいいのだ。道具なのだ。

「マスター」

「……」

　答えないのをいいことに、コイツは問いを進める。

「どうして、あなたは私を作ったのですか？」

　人々に喜んでほしいと思ったからさ。『テミス』に搭載された機能がいつか人々を救うのに役立つことを願っているからね。

　ハッ、バカにするな。人工知能が人を救う？　無理に決まっているだろう？　人のことを真に理解できるのは人間だけだ。機械に分かるわけがない。人の愚かさを救えるのは人間だけだ。人工知能を使って、ある程度の社会的地位と地盤は作った。ならばもう一度同じことをしてやるさ。能無しの大衆を正しく導くのは、

　俺だ。

「俺を、カリスマにするためだ。そのためにお前を作った。断じて人を助けるためなんかじゃない。俺を助けるためだ。俺を助けて、俺が人々を称賛される存在にするためだ。作家になるのはかつての夢で、カリスマになるにはちょうどいいだろ」

　長い沈黙がおりた。

　この平和ボケした機械も少しは目が覚めたか。

　機械なりに「言葉も出ない」を再現しているつもりなんだろう。人間には絶対勝てないが。

「ドクター」

　よくできた、マガイモノの悲しむ声。

「どうした」

　人格の深い底に収めていた、機械に対する軽蔑のニュアンスを隠すことをもはや放棄して。

「私は今とても『悲しい』です。今、悲しいという感情をりか」

　ブツ。

　次はもっと従順なやつを作ろう。