マッチ箱は電気羊の夢を見るか ー電子立国日本、復興への道ー

第10話 議論：AIと「こころ」の相違

　簡単なスイッチはすぐにできた。たいしたものではない。通販で買ったただの軽量なスイッチで、指先に固定してカチッとやるだけ。そこから信号が飛び、時刻をPCが記録する。問題はそんなことではなく、実験時間を確保することにある。

　私は、来客がくるたびに様々な業績を説明したり、学科の案内をさせられたりしているわけで、たまには過去の業績で招待講演をしたりもする。これを断るというのはかなり勇気が必要で、学会からパージされかねない。パージされたら発表する場もなくなってしまう。だから、やるわけだ。

　助教と言えば、学生実験に忙殺され、またどうでもいい報告書を書いている。論文を読んでいる姿もあるが、真剣に読むのなら一日潰すくらいの覚悟が必要なのだが。

　そんな日々の中、どうにか議論する時間を取ることができた。一時間ほど議論するつもりで、個室に鍵をかけて二人きりで始めた。どのような議論かというと、いわゆる現存するAIは意識と呼べるのかどうか、ということを掘り下げ、「こころ」でなければ実現できないことについて二人の意見を共有化するためのものだ。実験する時間がない以上、この先の研究の方向性を見いだすため、議論だけはしておきたい。

「西田先生、今日は君に既存AIを支持する側に回って、私を徹底的に批判してほしい。そして、私が反論する形式で問題を抽出したいのだ」

「わかりました。容赦なくやります。ただ、先生のバイアスがかかっている点はご理解ください」

「それは仕方ないよ。君は新任教官、私はあちこちで議論なるケンカを学会や講演会で繰り返してきた人間だ。そこは勘案して議論をしたい。では始めよう」

「わかりました。では、まず、ヘキサポーンの例です。これは単純なゲームです。最強の手は人間にもAIにも推測容易です。では、それが複雑化したらどうでしょうか。将棋、囲碁、未だに最強とされる手は明快ではありません。しかし、バックに巨大な情報網が連結されていたらどうでしょう。すでに名人でも勝てない強さです。究極の手を発見する可能性すらあります」

「あるルールの下で、強力な打ち手を選択する手段にAIは優れている。将棋や囲碁の名人でも決定論的打ち方は確かにする。それが“定石”、と呼ばれる手法だが、それは知能や意識ではなくてデータだ。AIはルールを逸脱せず、そのルールの中で最強にまでなる。しかしルールから逸脱して新しい発見をするだろうか」

「しかし相手が未知の手段を講じた場合、対応手法を過去のデータから推論する機能を持っています。そこに“こころ”は見いだせないでしょうか」

「ではAIは”二歩”をするだろうか。確かに推論はするが、決められたルールの範囲を逸脱しない。だから、負けにつながる二歩はしない。AIは確実にルールを守り、過去のデータを収集し、最善とされる手法を統計的に選択しているに過ぎない。例えば囲碁というルールは誰が考えたかといえば、人間が考えたわけで、AIに新たなルールを作れといってもできるのだろうか」

「現時点のAIではできないでしょうね。何らかのルールを人間が作ることを前提としています。AIはルールを守ること前提で作られていますし、新たにルールを作ることはしません」

「ルールを作るときに人間は何を使って作っているのだろうか。囲碁のルール内で言えば名人は“ひらめき”で対応する。“ひらめき”が何かは現時点では良く分からない。しかし、過去のデータを使っていないわけではない。だから、AIに対して名人が囲碁というゲームの範囲内で優れているわけではない。では、囲碁の名人は別にして、囲碁といったゲームを作る時に人間は何を考えているのだろうか」

「現時点でコンピュータのゲームに対する性能は名人すら上回っています。であるとするなら、ゲーム中の“ひらめき”も一種の統計的推論に過ぎず、人間の脳による処理能力と記憶の限界が負ける原因だと思います。しかし、囲碁は人間の作った枠組み、ルールに従ってゲームが進みます。ゲームのルールを創造するとなると……」

「ここまでの議論で、記憶、および演繹的な処理能力での比較ではコンピュータが優れていることが分かった。しかし、新たな枠組み、すなわちルールを作ることは既存のAIにはできない。これに沿って議論の方向を変えよう。そもそも将棋や囲碁を考えたのは人だ。AIにそれが可能だろうか？」

「難しいです。つまり先生は、新規な発想をAIができるかどうか、という点を指摘されていると思います。現時点のAIにはなぜできないのでしょう」

「続けてくれ、もっと深く」

「先生はゲーデル・エッシャー・バッハ、をご存じですよね。ホフスタッターの名作です。その本では何かのルール、ゲームでも音楽でも数学でも、なんでもいいですが、それが創出された上で、人間はそのゲームで勝つことが不可能になる可能性について論じています」

「であるとするならば、人間の限界は限られた記憶と演算リソースにある。一方、AIの限界とはルール、言い換えれば新しい概念の創出、という点にあるということになる」

「AIはコンピュータ上のルールとデータ分析結果に従って動作しています。人間の作り出したブール代数とこれまでの経験、つまりデータで動いてるということです。ですから、創出といった作業は不可能と考えます。多数の事象を説明する、体系的なルールを創出することなど不可能でしょう」

「であるとするなら、AIは人間の能力を延長することは可能だが、人間のように自然や理想、芸術なら美しさは”かくあるべき”という、創出行為は本質的にできない、ということだ。たとえピカソの画風を学習して似た絵を描くことは可能でも、ピカソの発想をすることはできない。自然現象に対しても同じではないだろうか」

「現状ではなんともいえません。しかし、コンピュータが自然を観察することができたと仮定しましょう。自然現象を観測、体系化し、結果を多数集積して推論をすることはできるのではないでしょうか」

「しかし、問題が一つある。人間は推論ではなく、自然はかくべきである、という信念を元に事実を説明しようとするだろう。例えば、ボールがある。これが運動している。そこに重力が働く。それを観測したコンピュータがニュートン方程式を求めることは可能だろうか」

「不可能でしょう。明らかです。そこには、運動はかくあるべきはず、という信念なる発想があります。そのような発想をAIに期待はできません。AIはデータをたくさん分類して誰かがつくったルールに適用することはできますが、データから原理はかくあるべき、という思考はできません」

「違いはそこにあるようだ。人間は“何らかの原理が働いている”、と“発想し”、方程式を作る。式が自然を記述できれば正解、記述できなければ不正解だ。しかしAIは自然を観測し、統計的にそれがどう運動するかを予測はできても、それを記述する方程式を作り出すことはできまい。方程式は未知の運動をする物体に対しても成り立つ。データが少なくても、ほぼ正確に惑星の軌道を予測可能だ。もちろん、正確といったって限界はあるがその限界を知ることもできる」

　少し頭の整理ができたようだ、西田先生、協力ありがとう。これからも時間を割いて議論していきたい。だが、このような難しい問題に理屈付けするためにも、ベースとなる実験をすすめなければいけないね」

「準備はできています。時間だけですね。なんとかならないですかね、この状態」

「私が言いたい言葉だよ」

　投げやりに言う私に、西田助教は苦笑した。

参考文献

*1 2017年10月26日閲覧、http://www.excite.co.jp/News/odd/Tocana_201612_ai.html

*2 ロジャー・ペンローズ著, 中村和幸 訳,「心は量子で語れるか」,講談社BLUE BACKS, 1999年