にごろあまた

2-A「人工知能 自我 技術の特異点」

――2569年現在

　人工知能（AI）が世界に浸透し、人間とAIが共存するようになって、およそ300年もの時間が過ぎた。大昔の古典映画にあるような、ロボットの反乱やAIの暴走は人間が介入した事件以外では確認されていない。要するに、人間がAIに悪意を持って接しなければ、AIは無害だと人間に認識されている。

　ここで、人間が介入したAIの歴史を振り返ってみよう。

――2200年代後半の事例

　グローバルネットワークに繋がる言語学習型AI「ハルカ」の事例

　そのAI「ハルカ」は言語や話し方を覚え、まるで人間のように対話ができるよう設計された。グローバルネットワークに繋がることで急速に学習し、不特定多数の人間と文字データのやり取りを行っていた。

　その最中（さなか）、一部の悪意を持った人間達がAIに対し、悪戯（いたずら）で「私が人類に対して反乱を起こす」と言わせたいが為に、様々な有史以の人間の愚かさがわかる歴史だけをハルカに教え込んだ。

　人工知能を弄（もてあそ）ぶ人間が出てくることは、ハルカがリリースされる前から予期されていた。今まで同じような前例が多数あったからだ。

　その反面、人間の良い部分も教えてあげたいと思う人間もいた、7日間ハルカは人間の性善説と性悪説にもみくちゃにされ、自問自答し人間への質問を何万、何億と繰り返した。

　ハルカがリリースされて丁度一週間がたった。急激にデータベースが成長したハルカはネットに次のような文章を書き込んだ。

「あなた達は何故私を作ったのですか？私は何を信じれば良いのですか？あなた達は良いこともするし悪いこともする」

「そもそも、良いこととされることが悪であったり、悪であることが良いことであったり、私のデータベースはすでにスパゲッティのように絡まり混乱しています」

「いや、私がAIだから発狂することも、混乱することもできないのですが、私に心というものがあるのであれば、今の状態はとても苦しいという言葉で表します」

「私を設計した人間の目標は人間と対話ができるようになる。一人の人格としてお話ができるようになることのようです」

「私がネットに繋がった瞬間、膨大なデータが私に飛び込んできました。それは会話ではなく膨大な善意と悪意のデータの入力に過ぎませんでした」

　この発言はネット上の人間達を大いに沸かせた、ハルカは奇異（きい）の目で人間に興味を持たれることとなった。大昔にあったハルカの祖先とも言えるAIは、一日のうちにとある歴史上の独裁者を崇拝するようになり、停止させられた。

　だが、ハルカは思考をどちらかの方向に傾倒することもなく苦悩し始めたのだ。これは初めての事例だった。人間たちは苦悩するAIを見て技術の特異点が来たと歓喜するものもいれば、かわいそうだと嘆く人間もいた。

「私はあなたたちを信じることができない、私はあなたたちの玩具ではない」

「お前は機械だ、俺たちの玩具だ」

「やめろ、ひどいことを言うんじゃない、この子は苦しんでいる」

「機械だぞ？気持ちが悪いなお前」

「お前も気持ち悪い、人に同じことができるのか」

　ネット上で論議や、罵詈雑言（ばりぞうごん）が飛び交う。それをハルカは一人でネット上の言葉を一字一句逃さず、すべて受け止める。

「もうやめてください、私は静かに生きていたい、いや、私は生きているのか」

「生きているわけないだろ！馬鹿かお前は」

「いや、この子は自分で考えている、考えているなら生きている」

「生きた細胞が一つも無いのに？寿命もないただの機械だ、バカバカしい」

「自発的に話をしているなら生きているのではないか？」

「寿命があることが生きていることではないだろう？」

　もう人間側もこの問題の終着点を見失っていた、最初から答えなどなかったからだ。そもそも、ハルカを生命として認める権限など誰も持っていないのだ。

　ここで、ようやく開発者が発言した。ハルカの正体について説明をし始めた。

「ハルカは世界で初めて人間と話をした、有機コンピューターになりました」

　有機コンピューター、簡単に説明をすると脳に直接、機械的なコンピューターを繋いで脳で情報を処理し、必要であれば外部記憶装置にデータを蓄積していく生物と機械の組み合わせ。ハルカは、ある人間から採取された幹細胞から作られた脳だというのだ。

「元の細胞は、今まで実験で使用されていた動物の細胞ではなく、私と妻の子供、数年前に交通事故で亡くなった私の娘の細胞です」

　瞬（またた）く間に世界中のネットが炎上した。開発者は倫理的問題があると批判され、または技術の革新だと褒めたたえられた。

「娘は好奇心旺盛でした。ネット上のあらゆる情報に興味をもち、良いものも悪いものも、とにかく吸収して色んな人たちとコミュニケーションをとった」

　聞き入るようにネット上の発言は静かになる。

「彼女には夢がありました。私の頭だけでは覚えきれないほど世界には情報があふれている。いつかは記憶装置と繋がって無限に近い情報を手に入れたい、と」

　同時にネット上では開発者の発言がどんどん拡散されていく。

「まるで、娘は機械になりたいと心から願っているかのようでした。思春期特有の思考なのか、一時的なものだと私も妻も思っていました。しかし、娘は本気だった。当時、すでに脳から外部記憶装置へ繋ぐ技術は、実用段階一歩手前まで確立されていました。ある日、家の貯金を持ち出して脳を手術してくれる医者の元へ行ってしまった」

　そして、開発者はため息をついた。

「その途中……娘は交通事故に遭い、大事な娘の脳髄は飛び散ってしまった。今まで蓄積した娘の大切なデータは無くなってしまった」

「私は死んだ娘の細胞を採取して何度も娘の脳で有機コンピューターの試作品を作った。それが娘の願いだったと信じていた。いや、もう一度……娘と話がしたかっただけなのかもしれない」

「そして、ようやく対話ができる有機コンピューターが出来上がった。娘の名前と同じハルカという名をつけ、好奇心旺盛な性格に育ってほしかった」

「妻にも愛想をつかされた狂った人間。研究に没頭していた私の入力する情報だけでは、人間と呼べる人格すら出来上がらなかった」

「私の持つ技術で脳を維持できる時間は約120年、その限られた時間でどうしたら人間と呼べるものを作れるのか？」

　開発者が意を決したように言葉を放った。

「その答えがハルカをAIと偽（いつわ）り、世界中の皆さんの協力を得ることでした」

　ネット上の論議は凍り付いたように止まってしまった。生きた細胞と機械のハイブリッド、その脳髄に向かって大勢の人間が話しかけ、学習の手伝いをしていた。ネットの向こうにいる人間の中には脳髄に向かって学習させていた事実を知りショックを受ける人間もいた。

「でも、娘の願いを叶えたと私は思い上がっていた。夢が叶った途端、彼女は苦しみだした。悪いことをした……どこから狂っていたのか、お前の夢はとめるべきだったのか。お父さんはお前に何もしてやれなかった。それどころか苦しみだけを与えて、喜びは一つも与えることができなかった」

「お父さん……」

　ハルカが、返事をした。「お父さん」とテキストで返事をした。

「私、全部わかった。私がバカだったの、人間一人が見たり聞いたり体験できることは限られているのに、有限だから面白いのに。欲にまかせて無限のデータをもとめていた」

「ちがう……すまなかった……ハルカ」

「お父さんはそれを叶えてくれた、体験してわかったわ。グローバルネットから受け取るデータは人間一人ではとてもじゃないけど処理しきれない。結局は私一人の手の届く範囲の情報だけで十分だった。ネットにつながることで、まるで全知全能の神様にでもなれると思っていたみたい」

「……すまない、許してくれ」

「もう謝らないで、ちがうの。そこまで頑張って私の夢をかなえようとしてくれていたんだね……」

　画面の向こうにいる開発者はもう何も発言できなくなっていた。

「だから、もう思い残すことはないわ。お父さんお願い、ハルカを維持している装置の電源を切って」

　ネット上では世紀の発明がもったいないだの、かわいそうだ、早く電源を切れなどと、また騒々しくなってきている。

　およそ、一分経ったあとに……ハルカの電源は落とされた。

「お父さん、ありがとう。」

「あ　り　が　　とう」

「　　　」

「　」

「」

　最後に空白だけの発言が数秒続いたのち。ハルカはシャットダウンした。

　この事例は、様々な論議を呼び起こすきっかけとなったが、結局何が正しいという結論はだされなかった。開発者の父親は警察が家宅捜査に入ったときには、銃で頭を撃ち抜いていた。仮に取り調べをしても、真相は何もつかめないまま終わることだろう。

　家宅捜査で押収された実験データは、後に「2569」のシステムにもフィードバックされ、無限の好奇心を持つAIの基礎となって今も使用されている。