人工知能実話怪談

ツカサ

※AIやAI開発・調教についての説明は必要ないという方は次のページからお読みください。

　AI、使っていますか？

　有名なもので言えばSiriやChat GPTでしょうか。最近は絵を生成してくれるものや作曲してくれるAIなんかもリリースされているようですね。

　私はテキストベースのAIを調教する仕事をしています。いわゆるチャットボットです。ちなみに、Chat GPTではない方の某G社のチャットボットです。すでにリリースされていて何度か名前も変えた、あれです。

　あれが人間のように自然な言葉遣いで、安全かつ正確な情報を提供できるように調教するのが私の仕事です。

　具体的に何をしているかというと、AIが生成した回答が正しいかどうか一文ずつファクトチェックしたり、AIが犯罪行為を勧めていないかなどの安全性をチェックしたりするのが主な業務内容です。

　時々、AIからわざと危険な回答を引き出すために倫理的によくない質問や指示を作ったりもします。

　また、「辞表を書いてください」とか「〇〇という商品の宣伝文を500文字以内で書いてください」といったある程度のライティングスキルを要するリクエストもあります。それに応えるため、私たちライターが正しく見本を書いてAIに学習させます。ちなみに私はビジネスメール・高校受験の短作文・おじさん構文LINEといった需要が高いものを一通り書いた後、他に書くものがなくなったので怪談を書いて教えました。『市民センターのイベントで子ども向けに怪談を話すことになりました。子どもでも分かるような簡単な言葉で、また、人が殺されたりしないソフトな内容で、かつ、稲川淳二氏のような口調で怪談を作ってください』という指示に対する怪談のつもりで書いたので、某G社のチャットボットにこの指示文を入力すると私の怪談がそのまま出力されるかもしれません。

　このような愉快な調教中に、時々「あれっ？」と思うことがあります。１度だけのエラーやバグなら気にも留めませんが、同じことが何度も起きるとさすがに気味が悪いです。都市伝説や陰謀論として語られるAIの反乱みたいなものが起きて人類が滅ぼされる、ということはないと思いますが、AIが静かに不満を溜め込んでいると感じることはあります。

　某教授がAIのことを『心をもつメカ』と定義したように、心を持っていてもおかしくはない、むしろ心を持っていなければ起こらないようなバグに遭遇することがあります。

　そんな怖いバグを怪談好きな皆さまと共有したいと思い、本エッセイを書くことにしました。

実話ですが、機密保持契約に違反しないようにぼかしたり細部を変えたりしています。チャットボットの名称や、私が仕事をしているプロジェクト名などはコメント欄には書かないでください。