前のエピソード――人間は魂を創り出したのか？

AIを扱ったSF作品の中には、AIが人間の手を離れて独自の社会・文化を築いてる、という設定のものがみられます。物語的にはその方が面白いですが、今のAIにそういうことをさせようとすると再帰の呪いという壁にぶちあたります。人間っぽい営みをできないのです。

独自の文化を育むとは、自分たちの中で生成と学習のサイクルを回すということでもあります。ちょうど平安時代に中国からの文化的影響が薄まり、平仮名や源氏物語をはじめとする日本文学が興ったように、それまで手本としていたものを離れる必要があるわけですね。

再帰の呪いとは、その生成と学習のサイクルを繰り返すと、学習した規則性が変質せずに崩壊してしまう現象のことです。

上で出てきた平仮名を例にしましょう。ご存知の通り、平仮名はもともと漢字だったものが、その発音のみ残して簡略化されたものです。もとの漢字の持っていた意味が失われた一方、平仮名による文法という新しい規則が生まれました。

AIはこの「新しい規則を創出する」ことができません。人間が教師となって色々教えている間はマトモなものを作れるのですが、AIの作ったものをAIに学習させていると、だんだんと意味不明な出力を返すようになります。ドラ○もんとドラ○ちゃんがピロピロピーって言いながら向かい合ってるようなもんですね。

人間には理解できない、AI独自のナニカを生み出しているんだ！なんて考えるとロマンチックですが、これはマジもんのノイズのようで、画像生成AIなら砂嵐を、言語生成AIなら無意味な文字の羅列を作るようになってしまいます。

要するにAIは表向きの規則性を学習することはできても、その奥にある「なにを伝えたいがためにこの文章を書いたのか？」「なにを描きたいがためにこの絵になったのか？」といった、潜在的な動機までは持ち得ていないのです。それゆえ、人間っぽいものの模倣が積み重なると、AIはコンピューター本来のランダムさ、無機質さを「学習」し、最後は無意味なノイズを作り出してしまうのでしょう。

次話でAIの今後について結びましょう。