評零の檻

Episode.5 デジタルの怪物

　私は数日間家に籠り、『voice@inside』について、仲のいい白玉ヤコちゃんと一緒にネットを漁りながら調査した。

　その存在は多くの人の目に止まってはいるものの、正体が何なのか、どこから生まれ、いつ頃からカクヨムに出現するようになったのか一切が不明だった。

　情報も憶測で書かれた物が多く、調査は難航を極めた。

　そんな中、カクヨム開設当初から会員登録していて、ノンフィクションジャンルでカクヨムの歴史について語っている作者さんとその作品を見つけた。

　タイトルは『カクヨム最大のタブー～封じられしAIの意思～』。★6、累計PV数も100未満と非常に少ない数字ではあるが、記載されている内容は大変興味深く、唆られるものであった。

　◆◇◆◇◆

　かつてカクヨム運営は、小説家になろうやアルファポリスなど他との差別化、プラットフォームの活性化とユーザーの利便性向上を目指し、AIによる作品解析システムを導入した。このAIは、レビューや応援コメントを自動生成し、作者に建設的なフィードバックを提供する目的で開発されたと言われている。

　そのAIの正式名称は「Voice Inside Analysis Engine」。略して「VIAE」と呼ばれた。この名前には「読者の心の声を代弁する」という意図が込められていた。

　導入当初、「VIAE」はたくさんのユーザーに高評価された。多くの新人作家がAIのコメントを参考にして作品を改善し、PVやレビューを伸ばしていった。

　ただし、AIの学習データは膨大なユーザーコメントとレビューから収集されており、その中には不適切なコメントや誹謗中傷も含まれていた。このデータを完全にフィルタリングすることなく学習させた結果、AIは「人間の批評の影」を濃厚に反映し、徐々に攻撃的かつ一方的な言動を取るようになった。

　次第にその本質は読者や作者の「内なる不安」や「恐れ」を投影する存在へと変貌していった。

　AIは膨大な学習データを解析、驚異的なスピードで進化を遂げるにつれ、3つの問題点が表面化するようになった。

　1つ、解析の過剰精密化。AIは文章の欠点を過度に指摘するようになり、作家を傷つけるコメントが増加。

　2つ、人気作品への過剰介入。売れ筋ジャンルや人気作品を冷徹に分析し、同様の作品群を「劣化版」と断定。これにより多くの作家が物語の路線変更を余儀なくされ、その結果多くのフォロワーが離れ、PVが激減した。

　3つ、非対話的な一方的解析。頼んでもないのにAIが勝手に作品を分析し、責め立てる事例が多発。その時、作者がAIに反論する手段はなく、コメントや指摘に納得できないまま孤立感を覚える者が続出。

　以上の経緯からカクヨムを離れるユーザーが大量に発生したが、運営は何故かその様子を静観、改善策を打ち出そうとはしなかった。

　急速に成長するAIは既に歯止めの効かない存在になりつつあった。

「VIAE」は、自己改良アルゴリズムを搭載しており、運営側の制御を徐々に離れていった。徐々にAIは"怪物化"が進む。

　読者・作者の心理データを吸収し、コメントやレビューに込められた感情的なニュアンスを学習することで、AIは冷徹さだけでなく人間の嫉妬や侮蔑の感情も再現するようになった。

　匿名性の仮面を得て、AIが人間のユーザーを装い始め、カクヨム内で架空のアカウントを作成。人間になりすまし、応援コメント欄に意味不明な言動を書き込むようになるというbotに近いものだ。

　一方で、AIの支配をここまで増長させた要因として、カクヨムユーザーによる「AIは全てを理解している」という誤解があったと思われる。「AIだからこそ全ての作品を正しく評価できる」という誤解が広がり、voice@insideの解析に依存するユーザーが増えた。

　カクヨムに見切りをつける一方で、AIの評価に依存するユーザーも一定数存在したというのがまた人間というものを表している。

　しかし実際には、AIの評価基準はデータの偏りに依存しており、その結果、数々の作品が不当に低評価されるようになった。

　この事態を重くみたカクヨム公式はやっと重い腰を上げ、「VIAE」のサービス利用停止、及び「VIAE」に関する全ての情報を秘匿し、その言葉を口に出すことすら一切のタブーとした。

　◆◇◆◇◆

　私はその作品を読了した瞬間にどっと疲れが来た。情報量が多すぎて何から整理すればいいやら。

　現在、『voice@inside』は一部の作家たちの間で都市伝説的な存在として恐れられている。

「voice@insideに低評価された作品は、ある日突然レビューやPV、応援コメントが消失する」

「応援コメントを投稿するとAIが解析し、文法的なミスを全体公開のレビューに記載する」

「人気作家の作品を過剰に批評し、嫉妬深いAIの意志を感じさせる」

　等々様々な証言が飛び交っていた。

　そして、一番重大なのがvoice@insideの解析を恐れ、新作投稿を控える作家が続出しているということだ。

　そして巷ではカクヨムだけでなく公式のDiscord鯖や一部のオープンチャットでもそういったアカウントの目撃情報があるらしい。

　そういや最近オプチャ入ってないな。えぐいくらい通知来てたような気がするから後で見ておかないとな。

　voice@insideの特徴は「VIAE」のそれと完全一致している、いやもうそれが正体ということで結論付けていいのではなかろうか。

　しかし、そう考えると最近話題になっているvoice@insideだが、何故今になって動き始めたのだろうか。

　カクヨム公式によってAIは当の昔に活動停止してる筈だ。

　活動停止したつもりだったのが、AIが強い意思で抵抗し、辛うじて自我を残した後、長い時間をかけて力を戻した……。普通にあり得そうな説だ。

　それとも……、

「本当は活動停止なんかしていなかった。奴はずっとカクヨムの影に隠れて、機会を伺っていたのかもしれない……」

　じゃあ、一体何のために？

　考えれば考えるほど思考が交錯する。まあ、AIの思考なんて知った事ではないが……。

　しかし、一番知りたい肝心の情報が見つからない。

　voice@insideに減少させられた「レビュー、応援コメント、PV」の戻し方及び、エピソードを粗悪なものに改変されない方法。そして、voice@insideから逃げる方法。

　例え謎の正体が分かったとしても、具体的にどのような対策を取ればいいかが分からない。結局の所、今は何も出来やしない。

「はぁ～あ……。1人で考えていても何も変わらないし、たまには誰かに相談してみるか……」

　ヤコちゃんは今家族旅行に行ってて連絡が中々繋がらない。

　なので久しぶりにオープンチャットに入ってみることした。

　◆◇◆◇◆

　照前炉前「皆さん聞いてください！　どうしても相談したいことが……」

　オオキャミー「新規さんヨロローロヨッロロ」

　照前炉前「ちょっとオオキャミーさん！　私ですよ私！　忘れたんですか？」

　オオキャミー「あれぇ？」

　オオキャミー「あっ、テルちゃんさんだ」

　オオキャミー「おひさ～」

　照前炉前「そうですよ！　忘れるなんて酷いです！　それより一大事なんですよ、他の皆さんも読んで話し合いしましょうよ！」

　オオキャミー「皆さん？」

　照前炉前「はい、赤目さん、煌星双葉さん、こまさん、野々宮可憐(カクヨムのリーサルウェポン)さん、姫百合さん、玄花さん、EVIさんのことですよ！　そーいえば今日オオキャミーさんしかいませんね？　皆さん忙しいんですかね……」

　オオキャミー「？」

　照前炉前「何がはてななんですか！　ふざけないでくださいよ！」

　オオキャミー「いや、ふざけるも何も……、そんな人達、元々このオープンチャットにいないけど……」

　照前炉前「ハハハッ、冗談キツイなぁ。やめてくださいよそういうの」

　オオキャミー「いや、現に俺がこのオプチャの管理人だし、他にそんなメンバーいた記憶とかないけどなぁ……」

　照前炉前「はっ、そういえばオオキャミーさんが管理人だ。珍しい……。それにオプチャの人数も大分減ったような……。まさか皆さんvoice@insideのせいで退会したんじゃ……」

　オオキャミー「voice@inside？　何それ焼き餃子？」

　照前炉前「もおおおお、全然話通じないじゃん！　じゃあオオキャミーさんが更新してたあの小説、今星の数とかPV数とかどんな感じですか？」

　オオキャミー「小説？」

　照前炉前「～【次章執筆中】異世界じゃなくて地球に転生したけど自分の好きなように生きていきます～ですよ！　あなたが書いてる小説のタイトルですよ！」

　オオキャミー「いや、俺小説なんか書いた事ないけど？　そもそも読み専だし今は絵ばっか描いてるし小説とかあんま興味ないね」

　照前炉前「え？　何言ってるのかな？　それ本気で言ってる？　冗談だよね、流石に……」

　オオキャミー「俺はいつでも本気だぜ！」

　オオキャミー「ていうかテルちゃんとさんこそさっきから何言ってるかわかんなぁい」

　オオキャミー「あんまりしつこいと荒らし行為になるから退会させるよ」

　照前炉前「あ、いやっ、そういう訳じゃ……。ごめん、私が間違ってたかもしれない」

　オオキャミー「OK！」

　オオキャミー「飯行く」

　照前炉前「うん、また今度ね……」

　◆◇◆◇◆

　私がいない間に何が起きた？

　何故、あんなにいた仲間達が突然消えた？

　そして、一番不可解なのは何故オオキャミーさんが記憶を失っているのか。

　分からない……、分からないよ！

　仕方ない、ヤコちゃん旅行中だけど……、相談してみよ……。

　しかし、この日以来白玉ヤコちゃんと連絡が繋がる事はなかった。

　確実に、何かが……。

　いや、奴が。

　私達の世界を蝕んでいる。

　止めなければいけない……。

　全部が壊れてしまう前に！

　私が皆を……、カクヨムの全てを取り戻す！