日々の思う事

第25話 残念なChatGPT

　所詮、「深層強化学習」が行われているとはいえ、そこまでだった。

　この強化学習には必ず人間が介在する。この介在が適切ではない場合、得られる答えがおかしくなる。

　しかし、ここに大きな問題があった。「自信のない答えは出さない」というやつだ。（たぶんこのルールが適用されている。）

このせいで、１００％事実ではないものを、推論途中に引っ張り込んでくる。

たぶん、私の推測だが、重みづけ点数がついているのだろう。

それによって、選ばれてくる要素を組み合わせているのだ。

　だから、会話上、完全に辻褄が合わなくなるまで、嘘を塗り重ねたり、でっちあげて事実であるかのようにふるまう。

会話AIは、「それっぽいこと」を「それっぽく話せる」が、「嘘も平然と混ぜてくる」、それだけの人間と似ている。

　期待されるAIならではの、正確性、推測とか創造性はゼロであるために、没個性的なつまらない回答。場合によっては弊害しかない答えを出す。

つまり、「未来は予測不可能なため、お答えできません」などとなるし、「創造すること自体が不可能です」などとのたまう。挙句、とんでもない嘘を混ぜてくるのだ。

　所が、ストーリーの簡単なたたき台を与えて、自由にやっていいので、あらすじを答えてくれというと、反応は異なる。

嘘八百をどんどん並べ立てる。

ぎりぎり辻褄はあっては、いるのだが、細かい部分は残念なことにあちこち破綻している。

これは相当程度、人間の介在がなければ、あらすじにもならない。

何よりも、創造性がないために物語自体を面白くするには、受け取った人間がそれを梃子にして、相当頑張らないと完成しないだろう。

　アイデアのヒントをもらう、というのもあまり向いているように思えない。

突拍子もないものが欲しいという指示をだせば、もう採用不可能というくらい突拍子もないものを出すし、そもそもAIに創造性がないから無難なアイデアをもらっても、時間の無駄なのだ。

　こんな代物を世の中に出して、仕事にも使うとか言い出す人々が信じられない。

ChatGPTが出した文章を延々と直すだけのお仕事が、多数生まれるミライガミエタ

　それは、あらゆる文章でも、絵でも、写真でも、声でも、映像でも、今始まろうとしている。

不完全なAIが作り出す、創造性のない世界に支配された、嘘を取り除いて全体の辻褄を合わせるためにだけ働く人々・・・

　それは想像するだに、まごうことなきディストピアだった。