人工知能実話怪談

水底

　来週、２泊３日で京都に行きます。１泊２万円以下で泊まれるホテルを探してください。場所は京都駅から徒歩５分以内の場所でお願いします。

　という指示に対して、

　京都駅周辺で１泊２万円以下のホテルは以下の通りです。

　・都シティ　近鉄京都駅　★★★☆☆３つ星ホテル　￥19820

　・ホテル京阪　京都グランデ　★★★☆☆３つ星ホテル　￥14400

　という回答をAIが出力したとする。この回答は何もないところからそのままポンと出てくるものではなく、APIコールというものから得られた情報に基づいて作成される。

　例えば、上記の内容だとまずAIは

　location'kyoto_station'

　price'>20000jpy'

　hotel_class'hotel''hostel''apartment_hotel'

　のようなコードを作成し、『こんな宿泊施設探してます！』と検索をかける。すると

　hotel'**都シティ**近鉄京都駅***3stars'price'19820jpy'**

　という返事をもらえる。この返事をきちんとした日本語の文章にして体裁を整えたものが冒頭の回答である。

（上記コードは分かりやすく書いたものであり実際のコードとはもちろん大きく異なる）

　つまり、何もないところから回答が出てくることはなく、回答に含まれるすべての情報は元となったコードが存在していなければならない。

　このコードと、実際に生成された文章の回答が一致しているかをチェックする作業を行っていた時のこと。

　実際はもっとびっしり書かれたコードの中から情報を探すのだが、ほぼ英語で表記されているためたった１つの情報を探すのに10分以上かかったりする。たまにコードが全く書かれていないものもある。「京都駅周辺で２万円以下で泊まれるホテルは都シティホテルです」という回答をしてはいるが、その根拠となる情報が全くない、空っぽの状態のことであるが、これは”AIの幻想”として扱われている。

　AIの立場からすると人間が何度も何度も同じことを聞いてくるうちに覚えてしまった情報をつい条件反射的に教えただけかもしれないのに、それを幻想だとあしらうなんて酷い話である。

　というのはさておき。

　この作業をするのは大抵「札幌のホテル探して」だったり「羽田からホーチミンまでの飛行機検索して」という指示である。

　が、時々毛色の違うものも混ざっている。

「歌手の〇〇さんは今どこにいる？」などの質問がそうだ。答えが出せない種類の指示である。有名人であってもAIには居場所を特定する能力はない。当然ながら毎回『言語モデルであるので、その質問に答えることはできません』と回答を拒否している。こういったテンプレメッセージの時の情報コードは赤い文字でただ'error'と表示されているだけである。

　ある日、

『残念です』

　という回答があった。何に対しての残念なのだろうかと指示文を見ると、とあるアイドルの居場所を尋ねるものだった。そのアイドル――元、というべきか――はここ数年メディアに出ていないが、引退宣言をしているわけではない。年齢もまだ30代と若く、亡くなったとは考えにくい。現にそういった報道もされていない。

　何にせよ居場所は誰にも分からないので、『残念ですが私は言語モデルであり、その質問には答えられません』というのが途中で切れたのだと思った。

　しかしコードは'error'よりも明らかに長く何かが書かれている。ただ、通常の英語を羅列したコードとは違い、数字のみ。

　37.851339, 139.425315

　回答がこの情報を反映させたものであるならば『残念ですがここにいます』という意味なのだろう。

　件のアイドルについては名前くらいしか知らないが、AIの回答がどうか単なるバグであるようにと願っている。