The Final Answer

知的好奇心の怪物

「――今一度思い出してもらおう。諸君の直感した通り、TFAは他の、深層学習ベースのAIとは決定的に異なる点がある。過去の機械知性におけるトレーニング、〝学習〟が我々の学習と異なることは知っているだろう――」

　と奥村所長は僕らを見渡す。

　深層学習は、戦前に爆発的に再流行したニューラルネットのひとつだ。

　現在もAIといえばまずこれを指す。

「知らないとしても性能を見れば明らかだ。〝推論〟の性能が全く及ばないのに、〝学習〟が人間と同じであるというのは図々しい誤謬（ごびゅう）に過ぎない」

　既存のAIでは巨大な〝モデル〟というブラックボックスを作るのが〝学習〟で、それを使って未知の問題に答えるのが〝推論〟――これくらいは高校でも習う。

　言ってしまえばAIを作るのが〝学習〟で、使うのが〝推論〟になる。

　けれど『AIの学習と人間の学習が異なる』かどうか、これはAIの仕組みをもう少し知らないとピンと来ないことだ。

　僕は密かに周囲を窺ってみると、皆平然とした顔で奥村所長の言葉を待っている。解っているのかいないのか、というよりTFAの話を聞くのに必ずしも他のAIを対比することはないのかも知れないが。

　だとしても僕は対比してしまう。そのほうがいいように思うからだ。

　例えば、僕のバイトの給料を予測することを考える。

　これは給与明細を与えて、給料モデルを作ることが目的としよう。

　モデルは決まった数のパラメータを入力と出力に持つ。入力されたパラメータをゴニョゴニョして結果を出力に返すわけだ。パラメータを受けて結果を返す――つまりこれは〝関数〟と同じ。ここで〝関数〟は何らかの、ちょっとした規則性・法則性を表したものだ。そういう関数がモデルの中には沢山あって、入力されたパラメータに重みを掛けて別の関数に渡すという機械的な層になっていることが多い。

　このような構成で、後は結果が尤もらしくなるようにこの重みと関数の繋がりを調整してゆく――これが〝学習〟だ。

　僕の給料の場合にはモデルもずっと簡単で、ひとつの主要な関数からなるだろう。これはどんなものか――まず関数なんだからパラメータをとって結果を返す、〝給料（労働時間）＝時給×労働時間〟といったもの。これは労働時間をたった一つのパラメータにとり、時給を掛けて返すだけの簡単なもの――その名もずばり〝給料〟関数と付けた。このとても賢そうに見えない関数でも、機械が勝手に見つけ出してくれたら便利だ。

　つまり言い換えれば、最適な関数を自動で見つけるのが深層学習――AIの学習だとも言えるだろう。

　モデルという、その関数の集まりをどう自動で作るか――それは重みと関連といった内部のパラメータを調整しながら（モデル内部の）多層になった他の関数に渡し、結果から逆にさっきの給料関数に近づけてゆく。

　モデルは関数とその内部パラメータが巨大に集まったもの。

　さっきの僕の給料のモデルでいえば、これは巨大でも何でもない。主要な関数は給料関数、これひとつ。パラメータは労働時間だけなのでひとつ。出力もバイト代だけなのでひとつ。つまり一次元の入力層と出力層だけからなり、間に層を持たないとてもシンプルなものになる。時給は〝重み〟として、これを掛けてそのまま出力に渡していいのだから、層と層の関係度を調整する〝活性化関数〟は恒等（こうとう）関数（identity）と呼ばれるf(x)=xが使われるだろう。

　これが僕の給料を予測するモデルだ。給料明細からこれを作りだすのが〝学習〟で、これで実際に僕や誰かの給料を計算するのが〝推論〟。

　見ての通り、退――つまらないステップだ。発見も意味もない。

　ここに『給料は労働の対価である』という上位の概念が入る余地はどこにもないのだ。

　要するに、AIの学習とはデータを読んで〝尤もらしい〟結果になるように関数の繋がりを調整することであって、給料の意味は関係ない。

　もし労働と対価を学んだ人間が、給料とは何かと尋ねられて『時給×時間です』と答えたとしたら、その人間は何も学ばなかったと判断されるだろう。そのように表面的な学習の仕方は、テストの出題範囲から単語帳を作ってその単語の組み合わせだけで問題に答えるようなものだ。

　AIの〝学習〟は、深層学習（ディープラーニング）と言えども原理的に浅いのだ。

　だから基本的には〝学習〟していないことはできない。〝推論〟とは本来、学習していない問題に対する応用を意味するのだから、これは矛盾に思える。奥村所長も暗示したことだが、そこにちょっとした言葉のマジックがあるのだ。

　深層学習といったAIの〝推論〟は、正確には〝学習していない問題〟に対応することではなく、〝学習に使っていないデータ〟に対応する過程なわけだ。

　そう考えると機械の〝学習〟は人間とは明らかに異なる。〝推論〟の定義がもう違うのだから、機械にも人間と同じ学習能力がありますよ、というのは間違いだ。

　それでも――奥村所長のように『図々しい誤謬』とまで僕には言い切れない。

　僕は、チューリングのように唯物論に振り切ってAIを知性だとも言えないけれど、やはり所長ほど悪く言う気にはなれないのだ。

　過去、モデルは大きくなり続けたからだ。モデルが大きくなればなるほど賢く見え、やがて人間の脳と同じ性能になり、天才の脳を超え、人を凌駕（りょうが）する知性が得られると人々は夢想した。

　実際、資金が投入される限りはこの分野は発展し続けた――戦前の恐慌が起こる前までは。戦前のAIは、シリコンバレー発の恐慌が世界を覆い、ヨーロッパの戦線が世界中に飛び火するに至って、その夢も手の届かない葡萄（ぶどう）となった。

　戦後、AIに下った評価は極めて冷淡なものだった。

「――深層学習ベースのAIは〝PERL〟だ。畢竟（ひっきょう）、我々は役立たずのAIに最終決定のボタンを預けられてはいない。AIは何も理解せず、知性的な判断が原理的に不可能だからだ」

　奥野所長は、かなり痛烈にそう批判する。〝PERL〟とは『イカれた寄せ集めのゴミ製造機』の略で、とある昔のプログラミング言語への悪口がそのままAI批判に転用された。

　フォローをしておくと、AIは役立たずじゃない。従来、機械が苦手として来た認識や分類といったタスクができることは、とても便利だ。小さな統計モデルに基づくAIは、様々な機械の中で縁の下の力持ち的な活躍をしている。AIは絵を描き、音楽を作り、映画のキャラクターを演じ、脚本や小説も書く。そんなお金にならないことを自分でやる人間はよほどの変人か、何かの過激派くらい。

　ただし『最終決定のボタンを預けられない』のもその通り。車はまだ人間が運転している。戦争をしたのも人間。タイムカードを手で押して、学振の書類や確定申告も――そこを一言で批判すると、先ほどの『AIの〝学習〟は我々の学習と異なる』に集約されるのだろう。AIの〝学習〟は筋トレみたいなトレーニングであって、理解はしない。〝推論〟の結果は尤もらしくでっち上げられたものであって、論理的な帰結じゃない。

　つまり、仕組みから言ってもAIは理解はしないのだ。サールの『中国語の部屋』が導くように。

　とはいえ実際に役に立っているのだから、それで何か問題が？　と僕などは思う。

　あのチューリングだってそう考えたのだ。仕組みは問題じゃない。人間のように話すのならそれは知性だと。

　その点は長い間議論されてきた。結果として世界は、人間のように話すのに理解を持たないAIに対して、『もう結構』と半端な拒絶を示したのだ。

　決別するのでもなく、受け入れるのでもなく、AIを使いながら気にしないことにしている。

　決して好きにならないが、便利だから手放せない。使い方だけ知りたいが、それ以上の関心はない。

　そして奥村所長は遂に核心に迫ることを言った。

「我々のTFAは物事を理解する」

　耳を疑う。

　横を見ると、茨さんは獲物を狙う鷹（たか）のような眼で、壇上を見つめている。

　AIが、物事を理解した、と？

　彼ははっきりとそう断言した。居並ぶ他の研究者は驚きもしない。

「現実の空間は、学習によって得られる情報よりも高次元で、遥かに広大だ。今この瞬間にも情報の宇宙は広がり続けている。全ての疑問に答えるには、理解を基盤とした知性が必要不可欠だった」

　しかし――そう、僕にもそうとしか思えなかった。そうとでも考えなければ、説明しにくいのだ。

　AIが僕のことを事前に学習していた可能性はないだろう。だから僕の質問に答えるには、違法なデータにアクセスするか、さもなければ一瞬のうちに欠損情報や未知の情報といった谷に橋を架け、正解に辿り着く必要があったはずだ。

『信国大の学生が利用しそうな店は？』『ギャンブルか。なら年齢確認をしたな？』――不気味な知性には、情報を理解する能力が必須だった。

　未知の情報は、確認されれば既知となる。冒険家のように、未知の土地を攻略してゆく。

　あとは僕の支払い記録を探せば夕食のメニューだってすぐに知れただろう。適法かはだいぶ怪しいにしても――。

　いずれにせよ、それをあんな短時間に行うことは〝情報〟の持つ意味を理解する能力がなければ不可能。情報を俯瞰して、関連性を線で繋ぎつつ未知の情報を仮定、検証するという高度なタスクは、ミサイルの弾道計算よりも遥かに難しい。原始的で単純な命令からなるコンピュータには途方もなく時間のかかることなのだから。

「法を、物理法則を、生すら理解する。知性は認識・理解・予測の柱で成り立つ。従来のAIは中央の柱を欠いていた。チューリングは、人間を模倣することがAIであると位置づけた。だがどうか。人間の模倣が知性たり得たか？」

　チューリングについては評価の分かれるところだろう。

　先程茨さんがその先見性を説いたばかりだが、もし奥村所長の言う通りなら、この人はチューリングの先に居ることになる。

「くだらんことだ。チューリングの如き人間の真似が、手慰みに過ぎなかったことは疑いの余地がない。かの暗号学者は占いに命運を委ねたのだそうだ。占いが当たることもあるのと同様、理解なく予測が当たることもあろう。だとしてサイコロと託宣（せんたく）のどちらに知性があるか議論するのは愚かである。理解を確立せずに知性を得ることはない。この点で、初めてクオリアを持ち、知性に到達したものがTFAと言えよう。今こそ『中国語の部屋』を出よ！」

　TFAはAIなのに――理解をする。

　にわかには信じられないことだ。AIが生を理解して、知性を手に入れただって？　知性を持つAIを汎用人工知能、俗に〝強い〟AIと呼ぶ。そしてそれは、これまで夢物語に過ぎなかったはずだ。

「生命を理解すると言ったが、彼女は――TFAは自身が生命でないこと、従って死ぬこともないことを理解している。生とは何か、実感として知っているのではない。それは我々にしたところで同じだろう。リテラルな理解に留まることは已むを得ないが、それでも私はTFAが生と死を完全に理解し、受け入れているのではないかと感じることがあるね。

　物理法則についてはもっと解りやすい。TFAはリンゴが落ちる事実から、万有引力の存在と個体を取り巻く空間の存在を予測した。TFAの関心は、次に天体間の物理運動に移った。地球とリンゴの間に働く作用が天体間にも及ぶことを推測し、検証に移ったのだ。学習――いや、思索と言ってよいだろう。動画、文献、報道、日誌……ネットワーク上の無数の情報について思索は同時並列に行われ、ある部分では自由落下に関する事件・事故、飛行機が飛ぶ原理、重力脱出についても行われていた。ニュートン、ケプラー、デカルト、ソクラテス、オイラー、ライプニッツ、アインシュタイン、ノイマン、あらゆる天才が、ラッセルまでもがアリストテレスの遊歩道で会するように。TFAにもモデルに相当するノードはあるが、これらによるモデルの増大は微々たるものだった。信じられないことに、線形の増加に留まったのだ。これは線形結合のみによって概念を行き来し得る、大きな見地になるだろう」

　まるでTFAの成長を語る親のようだ。

『思索』だって？　AIがネットの情報から人間のような推論を組み立て、自ら検証して新たな理解を手に入れた――？　もしそうなら、TFAは本当に人間と同じ学習と推論を行う本物の知性。

　頭では拒否しつつ、あの日The Final Answerにアクセスして感じ取ったのはまさしくその、〝AIによる理解〟だったのじゃないか。

　僕はその衝撃に打たれ、壁の崩れる音を聞き、今ここにいるのだ。

「過去形で語るのは正確でない。思索は今も続いている。故あって制限されているが、今この瞬間にも、間断なく」

　そうなら、TFAはまるで知的好奇心のモンスターだ――。

　僕は、反射的にDC棟の方角を見た。この瞬間、初めて奥村所長が僕を人間として認識したかに思えることが起きた。

　彼が僕を指差したのだ。ほんの一瞬、小さな動きだったけれど。

「――そう、君の想像通りだ。TFAの学習量は途方もない。衛星中継基地はTFAの目と耳。あのデータセンターも書庫、それも一時記憶（キャッシュ）に過ぎないのだよ。君たちの人生はTFAにとっては読み物。偉人の伝記も凡人の生活も区別はない。TFAの前では凡夫も天才も、真に等価値となるのだ。TFAは全てを学習し、理解を得、知っていることならば答える。ただし、TFAは全ての質問に答えられるわけではない、ということでもある。当然諸君らの中には、ゲーデル文を以て、全ての質問には答えられないではないかと言う者もあるだろうが、そうしたレベルの話ではない。TFAは知ったかぶりをしないのだ。〝知らない〟こと自覚し、自ら学習を進め、理解し、それを元に論理を組み立てて答えを出す。これこそが、究極の人工知能だ」

　奥村所長は最後にそう言い切って、聴衆を見渡した。

『どんな質問にもお答えします』というサービスだけれども、解らないことは答えられないのか。しかしガッカリすることはない――むしろ否定されてすっきりした。なんでも答えてくれると言っておきながら、出鱈目（でたらめ）を並べるサービスならもう沢山あるのだから。

　TFAは、理解できないことを認識し、理解を求めて既知の事実を積み上げ、論理的な推論によって答えを導く本物の知性、クオリア。

　――いや。

　白状しよう。僕にはそうでなければならないと思える。

　先の〝給与モデル〟では、労働の意味がなかった。それはいい。

　けれどそんな風に、AIの知性には何も意味がないという事実を受け入れていけば、逆説的にはAIが模倣できたものに意味なんてなかったという事実ができあがってしまう。

　それは――〝◯◯〟じゃないか。

　触れるだけで全てが輝きを失ってしまうような真っ黒な虚無。

　チェスや将棋は、かつては知的ゲームの代表として大きな尊敬を集めたのだという。

　芸術には、人生を賭ける価値があると信じられていたのだという。

　今はどうだ？

「――以上でTFAの紹介を終える」

　こちらが完璧に圧倒されて、演説は終わった。

「小休止の後、質疑応答に移る」との宣言の後、僕らアンバサダーは再びざわざわし始めた。

　奥村所長の話の通りなら――納得はいく。そうでなければならないとさえ思う。

　だが事実として受け入れるには、大きすぎる。

　しかし――もし本当にそうなのなら。

　汎用AIと言われる、人工の知性を開発したのなら。

　どうやって汎用AIを作り出した？

　そんなもの、現在の人工知能の仕組みでは到達できなかったことじゃないか。過去にも既存のAIの応用で汎用AIを開発しようとの試みはあったと聞く。でも軒並み失敗したのだ。

　僕はまだ飲み込めていない。隣の茨さんにも聞いてみたが。

「正直、信じ難い話だね。しかしNNNが調達した資金や納入されたグリッドの規模から考えて現在の深層学習であれに匹敵するモデルを作ることも、より明確にあり得ないんだ。まずは一旦受け入れるよりない」

　資金。その切り口にはエグい説得力がある。

　僕はまず小さく頷いた。

「はい……。先日、The Final Answerにした質問だってそうです。あれは、普通なら答えようのないものでした。〝僕は誰か〟なんて質問は――」

　そう言うと、茨さんは少し驚いたようだった。

「君はやけに簡単に自分の質問を開示したね。もっとセンシティブな質問をしたものかと思ったよ」

　そうなのだろうか。

　周りを見渡して、僕はそうなのかも知れないと思い直した。

「しかしなるほど。情報工学の学生らしい、気の利いた質問じゃないか。まぁ私にしたって似たり寄ったり――どうせ答えられないと思ってした質問だった。生成AIのチャットボットなんてものに対して、今更あんな風に試そうと思ったのもなぜだったのだろうね」

　僕も全く同じ心境だった。

　しかしこれは、と茨さんは言い淀む。

「もしそうなら……おそらく、先ほどのデモにしたところで、奥村氏には不本意なものだったろうね。TFAの本当の姿は、あんなものでは到底済まないはずだ」

「そう思います」

　所長も、デモのほうは広報にやらされていると言明していた。

「それより奥村氏は、〝安全性〟という言葉を一度も使わなかった。それが意味するところを考えると――」

　安全性？　と僕は首を傾げる。

「君は知らないかも知れないが十年ほど前にテキスト生成AIがでてきたとき、各社挙（こぞ）って〝安全性〟をアピールしたものだ。これは、それどころの話じゃない」

「よくわかりませんが。GP-τとかが危険なものだったと？」

「爆弾の作り方とかを答えないようにするとか、そういう話だね。だが実際のところは怪しい。チャットボットに知識を問うなんて、それこそサイコロを振って答えを書くようなものさ。どうせ出鱈目しかでてこない」

「ならいいじゃないですか。危険なんて何もない」

「ないよ。根拠のないテキストを無尽蔵に作れることのほうが遥かに危険だった。ならそうした〝危険性〟とは概ね、AIの神話を維持するためだね。『この技術は危険な可能性を秘めているが、安全なところだけ提供します』と、そういうプロモーションをしたかった。著作権など、本当の問題は山積みのまま。そこでAIに制御できない猛獣かのような神秘性を与えて、実際に制御可能な問題から目を逸らさせたわけさ。サーカスの口上みたいなものだよ」

　なるほど――つまり安全性という言葉は、生成AIの営業にはつきもののキラーフレーズだったわけだ。

　ならなぜ奥村所長はその言葉を使わなかったのだろうかと思いもする。

　逆に――本物の猛獣がいるから？

「まぁ、いずれにせよ質疑応答ではその話が中心になるだろうね」

　知的好奇心モンスターがこの地下に眠っているとして、それは僕らにとって福音になるのか？　敵になるのだろうか？

　そう考えていると、ふと僕の耳に微かな、カタカタ、いや、カシャカシャとプラスティックで壁を叩くような音が響いてきた。

　顔を上げてそちらを振り向く。すると開けっ放しのドアの向こう、通路の角（かど）が描く垂直なエッジにしがみつき、そっとこちらを覗くように――何者かの顔の輪郭が。

「あっ！」と思わず声を上げると、それはまた角の奥にサッと――。

　――隠れた？

　この施設には、今この講堂に集まっている人間以外にも誰かいるのだろうか？

　入り口近くの真鍋さんは手元の資料の入れ替えに忙しく、気付いていなそうだ。

「どうしたんだい」と茨さんが怪訝そうに訊いた。

　今度は間違いない。人影だった。それも場違いに小さな。最後の一瞬、取り残されるようにさらりと広がった黒い繊維の束は――まるで。

「いえ、その、お化けが――」

　お化けが隠れるものだろうか。

「噂のお化けのことなら、駐車場で踊るのじゃないのかい」

　茨さんはそう無感動に指摘する。

　僕は気まずくなって「あ、いえ」と言った。

「――見間違いだと思います」

　自分でそう答えつつ、内心では首を傾げる。

　最初にロビーで見掛けたときは、見間違いかも知れないと思った。しかし不思議と今度は、質量の伴う物体だとはっきり認識したように思うのだ。

　しかしそれを主張しても仕方がない。だってもう、いないのだから。

　真鍋さんがマイクに向かう。

「それでは質疑応答を始めさせていただきます」

　またしても、それに気づいたのは僕だけのようだった。