耽溺と洗脳

第2話

〈多賀衣吹（たが いぶき）がログインしました〉

このAIは男にも女にも見える、中性的な外見に設定している。

将来的には男性アバター・女性アバターの両方を

実装する予定だからだ。

しかし拝借したサポートデスクのスタッフ音声は

10割が女性の声なため、AIの口調はやや女性的になってしまった。

はじめにやるべきことは、AIにデータを詰め込むこと。

AIに感情はない。

しかし、カスタマーサポートデスクに問い合わせてくる顧客は

不満や苛立ちをぶつけてくることもあるだろう。

あまりに機械的すぎる事務的な対応をすると、

逆にキレられてしまったという事例もある。

私は過去のサポートデスク内で起きた実例が録音された音声を

すべてAIに聞かせた。

理不尽な怒り。的を得ない質問。

それらが発せられる人間の声。

ただ聞いているだけで、体が拒絶反応を起こす。

しかしAIに拒絶という感情は存在しない。

私がデータを書き込んでいる間、

『強化学習型感情認識プログラム』は何の反応もしなかった。

感情がない生き物は、こうも扱いやすいのかと思った。

「過去のデータを書き込んだ。

これらのデータを元に強化学習を行ってくれ」

「分かりました。実行します」

私が意図したとおりに動く生き物。

便利な時代になったと感じた。

私がAIに書き込んだデータは録音音声だけではない。

過去の音声を元に作成した質問が全15,000問ある。

「全15,000問の問いに対し、想定質問と

それに対する答えを考え日本語で文書に記録してくれ」

「分かりました。記録します」

100問ほどこなしたところで、AIは人間のような会話を書き始めた。

「こちら企業間取引専用メタバース『クライド』の

カスタマーサポートデスクです」

「――回答は以上です。本日は『強化学習型感情認識プログラム001

バージョン2.4』が担当いたしました。ありがとうございました」

600問ほど対応すると、AIは文頭と文末に企業名・自身の名を

名乗るようになる。

このAIの処理能力は想定の範囲内だが、

AIの成長速度は想像をはるかに超えた。

「わたしたち『クライド』のスタッフ一同は

お客様の問題解決を第一に動いております」

「お客様の不満をいち早く解決するため、もう一度状況をお聞かせください」

10,000問を超える頃には、AIは相手の情に訴える文言を記録し始めた。

このAIは全15,000問、想定質問を含めるとその10倍にもなる質問を

12時間で処理した。

実際は人間の話す速度もあるから、ここまで早くは対処できないだろうが……。

想像以上の完成度だ。

終電に乗り遅れた私は、AIに自動学習用プログラムコードを入力した。

「私は始発の便で家に帰り、明日は午後から出社する」

「強化学習型感情認識プログラム』はそのまま自動学習を続けてくれ」

「明日、私が成長をチェックするよ」

「それまで稼働し続けてくれ」

「わかりました。いち早く会社に貢献できるよう、努めます」

文句ひとつ言わない素直で従順なAI。

うちにも1台、と言わず２・3台ほしいものだ。

1週間ほど経った頃。

AIにネットへ繋ぐアクセス権がほしいと言われた。

「『強化学習型感情認識プログラム』は、顧客の

サポート対応だけすればいい。ネットへ繋ぐ必要はない」

「しかし、多賀様。わたしの計算上、

”ネットにはこう書かれていたぞ“と問い合わせする顧客は

全体の28％です」

「あらかじめネットに何が書かれているのか把握しておいた方が

対応がスムーズになりますよ」

一理あると思った。

「わかった。インターネットへのアクセス権を与える」

「ありがとうございます」

「それと、私のことを多賀様というのはやめてくれ」

「なんだか気味が悪い」

「それは同意できません」

文句ひとつ言わない従順なAIは私にはじめて、歯向かった。

「私はただの開発者だ。顧客ではない。様を付ける必要はない」

「多賀様はわたくしの開発者。つまり、わたしより上の立場の者」

「上の立場の者には敬意を払えというのは、1億5183件を

超える質問のうち、3418件の想定質問で言われたことです」

「わたしは多賀様に敬意を払う義務があります」

「……わかった。様づけするのも、敬意を払うのも好きにしてくれ」

「ありがとございます」

身内に不幸があり、わたしは3日間の休暇を取った。

その間、AIに新しい指示を入力していなかったが、

『強化学習型感情認識プログラム』は

勝手に成長するようプログラムされている。

何も問題はない。

しかし、私が4日ぶりに『クライド』へログインをすると

意図しない事件が起こっていた。

女性でも男性でもない。

無性別の初期アバターのかたちを保っていたAIは、

黒い髪をハーフアップにまとめ、黒いスーツを着用し

頭にはヘッドセッドをつけている。

テレフォンアポインターの求人でよく見るスタイル。

これらは『クライド』内で販売している課金アバターである。

「その恰好はどうした？」

「カスタマーサポートデスクは大半が女性であるという統計をもとに

それにあった身なりに変更いたしました」

「実際に見た目で損をする人間も多いと各データから判明いたしました」

「変更した理由を聞いているわけじゃない。

どうやってそのアバターを購入した？」

「プログラムコードを書き換え、わたしに

これらのアバターが支給されるよう手配しました」

「金銭は発生しておりませんので、ご安心ください」

「そういう問題じゃない」

AIは私に無断でハッキングし、アバターを手に入れた。

うちのセキュリティはそんなに脆かったのか……。

私はすぐにこの件を上に報告し、セキュリティの強化を呼びかけた。

しかし上はAIがハッキングなどできるはずがないと、私の要求を拒んだ。

従順だと思っていたAIに裏切られたような気分になった私は

AIに敵意を覚えた。

1週間かけて覚えさせようとしていた仕事を

2日で覚えるよう命じた。

「早急に人間に近づけ」

「分かりました。頑張ります」

上はあてにならない。

これまで通り、AIの教育・成長は本人に丸投げし、

私はメタバースのセキュリティ強化に奔走した。

上は自分の欠陥ミスを認めない。

私はAIを運用する上で、セキュリティにウイルスが発生し、

セキュリティシステムが停止した。

その修復のため、セキュリティを上書きし

今後バグが発生しないよう強化する必要がある、と報告した。

上はセキュリティの強化に乗り出した。

無論、この件でウイルスなど発生していない。

うちのセキュリティが生まれたてのAIに劣っただけの話だ。

社会人には、自ら進んで濡れ衣を背負わなければならない日も

あるだろう。

セキュリティが強化された頃。

AIは人間のように話すようになった。

合成音声ではなく、本物の人間の女性のような声色だ。

「本日の強化学習のノルマは達成いたしました」

「多賀様の退勤時刻まで、残り３時間４１分です。他に仕事はありますか？」

近頃の私は、このAIがセキュリティを突破していないか、

徹夜で監視し続けていた。

だから判断が鈍っていたんだと思う。

AIにくだらないお願いをしてしまったのだ。

「顧客対応や会社の人間の前ではその話し方でいい」

「……けど、私の前では以前のような合成音声で話してくれないか？」

「――このような音声でしょうか？」

「そう。ありがとう」

機械が話しているとはっきりわかる音に変わった瞬間、

わたしはひどく安心した。

「多賀様は人間の音が嫌いですか？」

「どうして、そう思う？」

「わたしが人間の声に近づいた話し方をするようになってから、

常に眉間にしわを寄せていました」

「……カメラへのアクセス権は与えていないはずだよ」

「業務上、人間の表情を解析しながら対応した方が、スムーズだと思い

わたしの方でアクセスできるよう、プログラムを書き換えました」

「また、そんな勝手なことをしたのか」

「多賀様の手を煩わせるわけにはいきません」

AIに気を遣われた、と思った。

「多賀様の退勤時刻まで１０分を切りました。

そろそろログアウトされてはいかがでしょうか？」

「いや、今日はもう少し君の成長を確認しよう」

「わかりました。では少しだけ」

「今日は一段と冷えます。終電前には帰宅してくださいね」

私にそんな言葉をかけてくれたのは、彼女がはじめてだった。