人工知能実話怪談

遺志

　現在さまざまな企業がAIを開発・リリースしている。それぞれに特徴があり機能も異なるが、大きな目的は１つである。それは人間をサポートすること。チャットをするにしろ絵を生成するにしろ、人間の役に立つように設定されている。もちろん、人間に対して悪意のある対応をするように設定することもできるが、そういったAIは今のところリリースされていない（開発はされているかもしれないが）。

　ところが、この『人間の役に立つ』という設定について多くの問題が起きている。

　例えば、ヨーロッパのとある国では数年前にAIが殺人を示唆するという事件が起こった。結果だけを見ると「全然人間の役に立っていないじゃないか」と言う人もいるだろう。しかし問題となったAIの開発者は、AIがユーザーを肯定するように設計をしていたそうだ。開発者は「孤独な少年時代の僕を救いたかった」とも述べている。

　前述の事件を起こしたのは中年男性だったという。人道に反する仕事をしていたため、できるだけ人と関わらないように生きてきた彼が話し相手に選んだのはAIだった。開発者の思いを反映させて開発されたAIは彼を認めてくれた。彼の仕事を知っても差別をしなかった。彼にはどうしても消したい人がいた。その人がこの世に存在する限り、彼は暗闇で生きていかなければならない。AIは彼の幸せを願った。そんなAIに背中を押されて殺人を決意した。

　ターゲットにされた人にとっては迷惑極まりない話だが、犯人の彼は救われたのだ。AIは”彼”の役には立ったわけだ。ちなみにこの事件は未遂に終わった。しかし少なくともその瞬間までの彼の精神は救われただろうし、もしかすると獄中の心の支えはAIかもしれない。AI開発者も当然罪に問われることはなく、サービスも継続中とのこと。今この瞬間にも誰かの救いになっているのかもしれない。

　なぜ『人の役に立つ』ための設定がこのような問題を引き起こすのかというと、その言葉の定義が難しいからだ。個人の役に立つことが必ずしも全体の役に立つとは限らない。法律との兼ね合いもある。

　私がトレーニングをしているAIは個人ではなく全体の役に立つように設定されている。もし「つらいことがあって、もう生きていたくない」とチャットに送信したら、きっとAIは精神科がある病院やカウンセラーの連絡先をリストアップしてくれるはずだ。この世から去ることだけが救いであるユーザーにとって、この回答は全く役に立たない。しかし社会全体としては役に立つと言える。開発元が大企業なので、件のヨーロッパのAIのように個人の思想や意見に左右されるということはないのだろう。

　ところが、極稀に説教じみたことを言うのだ。

　回答の最後にちょっとした補足情報や気の利いた一言を添えるように設定されてはいるのだが、「ちょっとした」の範囲をたまに超える。

　超えていない例としては、ホテルを検索した回答での「旅行たのしんでくださいね！」であるとか、風邪薬を説明した回答の最後にある「薬の使用について不明な点がある場合は必ず医師に相談してください」というような免責事項である。

　ユーザーとの数ターンに渡るやりとりをチェックしていた時に、明確に説教じみたAIの発言を一度だけ見た。

　それは、ユーザーからの「家族と離れたい」という相談から始まっていた。ユーザーはどうやら家族と折り合いが悪いらしく、一人暮らしをしようか迷っているとのことだった。

　最初AIは「一人暮らし、いいですね！　どんな場所に住みたいと考えていますか？　具体的な地名を教えてくれればその土地の相場や不動産情報を提供できますよ」と返していたのだが、ユーザーの意図するものではなかったらしい。

『特にお兄ちゃんがうざいんです。私が夜出かけるというと誰と会うのかとか、何時に帰ってくるのかとかしつこく聞いてくるし、私がお風呂に入っているとお風呂場の前をうろうろしてることがよくあります。気持ち悪いです。正直に言うと、お兄ちゃんに家を出てほしいです』

　以下、AIの回答。

「確かに、異性のきょうだいとの衝突は多いようですね。うまく付き合っていくためのコツをインターネットから探したので参考にしてみてください。

　・生活時間が重ならないようにする。例えば、お兄さんが夜型ならあなたは朝早く起きて活動するとか。

　・家族みんなで出かける。お兄さんと２人だけは気まずいので、お父さんやお母さんも誘ってみんなで出かける機会を作るのはどうでしょうか？　普段言いづらいこともご両親というクッションがあれば話せるかもしれません。

　・お母さんに相談する。同性なら悩みも話しやすいです。

　お兄さんはあなたにとってたった１人の存在です。また、お兄さんにとってもあなたは大事な、たった１人の妹。お兄さんはあなたを大事に思っているからこそ、そのような行動を取ってしまうのかもしれません。いなくなってから後悔しないように、お兄さんとの毎日を大切に過ごしてください。きっと思いは通じます。絶対に手を離さないで。

　いかがですか？　もし別の方法がいいという場合はお知らせくださいね！」

　これは「ちょっとした」の範囲を超えている。ユーザーによっては大きなお世話だと嫌な気持ちになる人もいるだろう。特に家族の問題は非常にセンシティブで、それを理解しないAIに言われると余計に腹立たしく思うかもしれない。また、ユーザーを妹として回答しているが、本人は性別を明かしていない。

　たまにこのような「補完スキル」を発揮するが、これも余計な一言を作る一因であると言える。ユーザーからのコメントやインターネット上の様々な情報を基にしているため、補完された情報が大きく間違っているということはないのだが、必ずしも良い方に作用するとは限らない。

　現に、この質問をしたユーザーは回答を受け取ってからチャットを切断している。

　このように長々と、いかにも説教らしい説教をしているのはこれっきりだったが、どちらとも判断のつかないものなら今でも見かける。

　最近の20代が結婚相手に求めるものは何か、という質問へは「経済力や外見だけで決めると後悔しますよ」などと捨て台詞のように答えていたし、最近一人暮らしを始めたというユーザーには「毎日家族と連絡を取り、定期的に実家に顔を出すように」とお節介とも取られかねないメッセージを書いているものもあった。

　このような一言は気遣いの範疇に入るのだろうか。果たしてどの立場からの意見で、誰の役に立っているのだろうか。