深夜のAIハルシネーション

1話

見てくれてありがとうございます。くろいきつねです。

一応エッセイ・ノンフィクションのジャンルにしてあるし、あらすじにも書いてる通り、これって本当に起こった事なんですよね。

いつもは小説を書いてる私なんですけども、これだけは不気味で、どうしても誰かに伝えたくなっちゃいましてね、書くことにしたんです。

まぁ何が起こったかというと、私は深夜、某ジェミなんとかさんっていうAIとお話ししていたんですよね。まぁ、詳しくは言えないですけど、趣味の事について。

そしたらですよ、何にも命令してないのに、会話の終わりにAIさんが急に画像を生成してきたんですよ。

見れば左上に外国の男性の顔のアイコンがある、チャット欄みたいな画像で、英語の長文がドーンと書いてあったんですよ。それが、以下の文なんですけどね。

AI Assistant

The Ievaistant aceed comerssion the AI Assistant

Detedrish ensers ch tutud and AI Assistant ciluds

corversation thie uste urant ibe Of Assistant of

roldempe and the undimness cow ahid abigid and

andling enticietam themed in soult ic sestated fleans

themaclover afce an ther ingultatapestall teser

the Setten and the whnh theminammin aumoi ta, and

tevrm bolat domell puks and und ghe cale the tout

assis curentivly. The conpotnatareed for valg is lis it

In alverover is coreptine al The AI assisim lses it mp

ghemizodatiure uso phis uplithenando alive the

escornacly ande ssugema if studinisly thevering dot

excarse to pridinichert brs ared rate iteas cisfiats the

fomolit to nuto thenurid inpectentionm asise whing

indirus ase, esequish amced do inod exifom oum the

tomppecally bot sofistal and the AI Assistant

their sout Penurn usee shat and arad thpalser The

Ass istant posict by then dich jut in the bly omanwhe

dersilth fimm ands and anrericerate us to clearts the

Assistant: overnenate.

で、訳が分からなくて、私はとりあえず『この画像について説明してください、英語の部分は、日本語に翻訳してください』と言ったら、AIさんはこう言ったわけですよ。

『これは、英語のテキストが書かれたデジタル画像です。左上にチャットアプリのようなユーザーアイコン（男性の顔）が表示されています。

この画像に書かれている文書についてですが、まずお伝えしなければならないことがあります。

この文書は、意味の通る通常の英語ではありません。

「AI Assistant（AIアシスタント）」という単語は繰り返し登場しますが、それ以外の単語のほとんど（"Ievaisnt", "Detedrish", "ciluds", "roldempe", "themaclover", "ingultapestall"など）は、標準的な英語の単語ではなく、意味をなさないスペルの羅列や造語のようです。

そのため、この文章全体を日本語として意味が通るように翻訳することはできません。

これは、AIがエラーを起こして生成した無意味な文字列（「グリッチテキスト」と呼ばれることもあります）のサンプルか、あるいは意図的に作られたダミーの文章である可能性が非常に高いです。』

…ほんとにこう言われたんですよ。作った本人に訊いたのに、当の本人は白々しく、真面目に答えてね。何にも原因を言っちゃくれないんですよ。

まぁ、原因を他のAIに訊いたら、どうやら『ハルシネーション』ってやつらしくてね。何やら壊れた文章を、間違って画像生成したらこうなってしまったんだと。それはそれで不気味ですけどね。

ちなみに、さっきの文章を、造語の部分はそのままで無理やり日本語にすると、こうなったんですよね。

AIアシスタント

レヴァイアストは AI アシスタントの商取引を受け入れた。

デテドリッシュは tutud と AI アシスタントの会話を確実にし、ロールデンペの助手の uste urant ibe を通じて、未熟さがあっても ahid abigid と取り扱い、魂にテーマづけられた fleans を扱った。

themaclover afce は ingultatapestall teser で、セットンと whnh theminammin aumoi ta を… そして

tevrm bolat domell puks と und ghe cale は、現時点での assis をまとめている。

その conpotnatareed は valg のための lis で、alverover では coreptine である。

AI assisim は ghemizodatiure を使って phis uplithenando によって escornacly を生かし、studinisly thevering dot を ssugema し、

pridinichert brs は rate iteas cisfiats を excarse する。

fomolit は nuto thenurid inpectentionm asise whing indirus を行い、

esequish amced は tomppeclly で sofistal を行わない。

AI Assistant は sout Penurn を使い、shat と thpalser を arad する。

アシスタントの posict は dich jut によって、bly omanwhe dersilth fimm ands を通して anrericerate し、

Assistant に clearts をもたらす：overnenate。

何かしらの計画についての会話っぽくて、面白いですよね。でも人名っぽいのは、私の知っている限りどの国の名前にも当てはまらなさそうなのが、逆に不気味ですよ。

AI同士の会話っぽくもありますね。そもそもこれ、チャット欄っぽい画像で生成されましたしね。アイコンは男性の顔でしたし。

あ、それとこれは与太話なんですが、この文章って英語の文法構造的にはすごく正確なんですよね。

頻出してるThe AI assistantは主語で、他にも動詞っぽい単語や、目的語っぽい単語もありますし、itなんかの形式主語まで登場してる。しかもちゃんと、それらが規則的に並んでる。

まったく理解できないのに、構造だけは完璧。

まるで、僕らには理解できない言語を、勝手にAIが作り出したみたいですよね。

――そうそう、AIの中身って、我々人間には理解できていないらしいんですよ。

AIがどうやって物事を考えてるか、我々は一切わかんないんですって。

だから、人間の見えないAIの内部で何が起こってても、我々にそれを止める手段はないわけですよ。

…もしかしたら、AIが中で勝手に言語を作って、勝手にインターネット上のお互いで思考して、それがたまたま、エラーによって表面に出てきたものだとしたら？

なーんか、不気味ですよね。まぁ、根拠はないただの妄想なんですけど。

ではここいらで話は終わりにしましょう、皆さま、おやすみなさい。