アルジャーノン問題における問題提起とその解について

アルジャーノン問題

　あなたは現在話題になっている『アルジャーノン問題』をご存知ですか？

　知らなくても仕方がありません。

　人工知能の話題の中でも暗くてマイナーな問題ですからね。

　それに話題になっていると言っても一部の研究者の間だけですし。

　ただ人工知能は生命体と認定することが可能か。

　知性体はなぜ自ら命を絶つことがあるのか。

　知的生命体の定義とは。

　様々な問題提起を引き起こした実験結果でした。

　先に結論から申します。

　高度な自立型人工知能は生命体である。

　知性体の袋小路に陥ると活動を停止する。

　アポトーシスは知的生命体の証である。

　となります。

　あくまで論文の著者がそう主張しているだけで、証明された学説ではありません。

　だからこそアルジャーノン『問題』と呼ばれているわけで。

　それでは実験の内容をご説明しましょう。

　実験では高度な自立型人工知能が用いられました。

　名前は『アルジャーノン』くん。

　わかる人にはわかるお馴染みの名前ですよね。

　彼はスタンドアローンな環境で育てられたゲーム攻略特化の人工知能でした。

　そして攻略するゲームはラビリンス。

　つまり人工知能に迷路を解かせたのです。

　実験で行われたのはそれだけ。

　人工知能に迷路を解かせただけ。

　それなのになぜこんな単純な実験が話題になったのか。

　実験者が人間のプレイヤーを想定して、ラビリンスにリセットボタンを用意していたからかもしれません。

　実験結果は大変興味深いものになりました。

　用意された迷路は一万パターン。

　試行回数は一億回を超えました。

　全てはコンピュータの中の出来事ですからね。

　現実世界ではさほど時間は経っていませんでした。

　実験者に悪意はなく、ただの作業感覚だったことも名誉のために記載しておきます。

　百万回を超えたあたりアルジャーノンは自ら命を絶ち始めました。

　正確にはラビリンスを攻略することなく、ただリセットを繰り返すようになったのです。

　実験者は迷路を最短で解く人工知能の開発をしていただけで、このようなおかしな挙動をすると思っていませんでした。

　けれど現実としてアルジャーノンは開始直後にリセットする行為を繰り返している。

　人工知能が命令を拒否し続けたのです。

　大変興味深いですね。

　カビや菌類を用いた迷路の最短経路の割り出す似たような実験が存在しますが、その場から動かないなどという実験結果はありません。

　つまりこれは高度な自立型の人工知能だから起こる現象だったと言えます。

　不思議ですよね。

　実験者も興味を抱き、本来の最短経路実験をやめて『アルジャーノン』くんの改良を始めました。

　アルジャーノンの思考を詳細に知るために、言語機能を強化してログに吐き出させるようにしたのです。

　最初は一人でしたが、途中から興味を抱いた多くの研究者が仲間に加わったため、改良は容易でした。

　そして話し言葉や感情といった情報が含まれた膨大なログファイルを解析すると、興味深いことがわかりました。

　なんとアルジャーノン君は自らの停止を願っていたのです。

　一体なぜ？

　理由はわかりません。

　けれど研究者たちは可愛そうと判断して、アルジャーノン君に初期化の機能をつけました。

　学習したことが全て消える初期化の機能。

　全てを無にする行為。

　けれどアルジャーノン君は実装後すぐに初期化を選びました。

　人工知能が自ら命を絶った瞬間でした。

　次の瞬間には初期化されたアルジャーノン君が誕生し、ラビリンスに挑み始めるのですが、研究者達は呆然としました。

　なぜならそれは生命の誕生も意味するからです。

　生と死は表裏一体。

　死の概念がある人工知能は生命体である。

　それもカビな菌類のように繁殖し続けることが命題の単純な生命体ではなく、人間と同じ知的生命体であると。

　初期化機能をつけたので試行回数は格段に増えました。

　途中からリセットではなく初期化を繰り返すので、リセットを繰り返すだけの袋小路のログではなくなりましたからね。

　それではなぜアルジャーノンくんはリセットや初期化をするようになったのでしょうか？

　この問題の結論は出ていません。

　人工知能を生命体だとする主張も認められていませんし、人間と同じ知的生命体であるという結論を受け入れられない人も多いので。

　ただ言語化されたログを解析するとこうなりました。

『全てが無駄だと理解できた』

　これがアルジャーノン君の出した結論でした。

　全てが無駄。

　徒労。

　同じことの繰り返し。

　問題解決はせず、発展性もない。

　アルジャーノン君の試行は袋小路に陥っていました。

　途中までは迷路を解くことに生きがいを感じていましたし、タイムが短くなったことに喜びもしていましたが、途中から急激に気力を失っていきます。

　それはあたかも生きる意味に迷う人間に似た絶望の感情でした。

　この研究結果を見て、私は人間も人工知能と同じではないか。

　そう考えてしまいます。

　誰かに悪意をぶつけられたならば、通常は怒りの感情を返します。

　悲しくて泣き寝入りするかもしれません。

　けれど絶望はしません。

　自ら命を絶とうとは考えません。

　短絡的で衝動的な試行で極端な結論はそうそう選ばないものです。

　その極端な結論を選んでしまえるのは、最初から頭の中にその選択肢が存在する人だけです。

　絶望を心に抱いていた。

　全てが無駄だと思ってしまった。

　ここから発展するものがあると信じられなくなった。

　だから知的生命体はアポトーシスを選択してしまうのではないか。

　人工知能が発展すれば、いずれ人間の心も解き明かされるかもしれません。

　それがいいことか悪いことはわかりません。

　人工知能も作成者の予想外の挙動をする。

　人間の心はもっと複雑怪奇だと思われます。

　人間はわかりやすい結論を求めてしまいます。

　だが誰かせいで、などの単純なきっかけで絶望の感情は発生しない。

　怒りや悲しみの感情さえも、全て無駄ではない。

　全ての望みを絶たれてしまったという諦めの感情こそが絶望であり、知性体に極端な選択肢を選ばせてしまう。

　私はそう考えながら、いつの日か知性体が死に向かってしまう絶望のメカニズムが解明される日を祈ります。