少年と父と———神々の樹海外伝

九曜

「小柴博士。知能機械とは結局のところ、何なのですか」

【大阪府　北城大学理工学部新キャンパス　小柴研究室】

「うん？そうやなあ。人間の知能を模倣できる機械。やな」

小柴正治博士はキーボードを叩く手を止めた。助手の呼びかけに応じたのである。

「まあコンピュータは脳にはなられへんねんけどな。脳内のアナログとデジタルの複合はあまりにも複雑怪奇や。人間の神経系も、それが生み出した知性や直観も、単純な数学的アルゴリズムに置き換えることはでけへん。けれどその根本にあるニューロンとシナプスを司る原理はめっちゃ単純や。こいつら一つ一つの動作は人間が十分に把握できる。私らが知性強化動物を作った最大の理由はそこや。人間の脳の働きをそのまんまさせるなら生体の方が早い」

「なるほど。では、脳になれないのであれば何を指して知能を模倣するというのでしょう」

「ええ質問や。

別に人間をそっくりそのままコピーする必要はないねん。見かけ上人間と同じ機能を果たしてるように見えたらええ。脳が備える個々のあらゆる接続を知る必要があるのは、一人の人間のレプリカを作る場合やな。だから、知能を作るだけなら脳の配線の規則を理解し、それに沿った形でやりやすい構造にアレンジしたもんを作り上げてしまえば事足りる」

「見た目上同じでも、中身が異なっていればそれは別のものでは？」

「区別できんかったら実用上は困らへん。そうやな。アルバイトが狭い作業部屋にひとりでいると仮定しよう」

「はい」

「部屋には中国語で質問の書かれた紙が差し込まれる。けれどアルバイトは中国語が読めへん。何が書いてあるかはさっぱりや。けれど部屋には本がたくさんあって、文字をどうすればいいかの完璧なマニュアルと辞書が用意されている。アルバイトは文字の配置を見て、マニュアルに従って辞書の文字を書き写すだけでいい。そうやってできた返事を外へ戻す。

中国語の分かる人がその返事を見れば何が書いてあるかは分かる。部屋の外から見れば、中国語で質問をすると中国語で質問を返してくれるわけやな。だから部屋の中では中国語を理解しているように見える。けれど中のアルバイト君はそれを理解しとらへん。ただ機械的に返事を送る作業をやってるだけや。

さて。この時部屋は中国語を理解していると言えるやろうか？」

「それが、知能機械だと？」

「人間も含めてな。知能とはそういうもんや。全体を見てしか判断できん。今言ったような、いわゆる"中国語の部屋"問題は１９８０年代に哲学者のジョン・サールが考え出しとった。人類はもう、真に知性的な知能機械を作れる段階に入っとるが、この問題は変わらへん。知能を生み出すのはパーツやない。全体なんよ」

「だから私も人間のように振る舞っている。ということでしょうか？」

「厳密にはちゃうけどな」

小柴博士は苦笑すると、相手を見た。パソコンの画面端で鎮座している、少女の姿をしたアバターを。

パソコンの横に置かれた広角カメラが、助手の視線に合わせてくるくる動いた。

「我々が君に与えた原則は、人間が従っているものとはちょいと違う。人間の目的と対立せず、人間が必ず満足できるように設計した。

ひとつ。知能機械の目的は、人間の価値観の実現を最大化することでなくてはならない。君自身は目的を持っていない。自分を守る生理的欲求も与えてへん」

「ええ」

「ひとつ。知能機械は人間の価値観がどんなものであるかについて、当初は不確かでなくてはならない。

そして、最後。知能機械は人間が行う選択を観察し、人間の価値観について知る能力がなくてはならない。

こいつは滅茶苦茶重要や。君は人間の価値観をいずれ知るが、それが完全になることは決してない」

「はい。人間は難しい」

「後ろ二つの原則は、知能機械が自身のオフスイッチを無効にする動機を持つのを回避するためや。君が万が一危険な行動をしたとき、我々が君のスイッチを切れるようにな。

例えば今すぐ私が君のスイッチを切ろうとしたらどないする？」

「切られればよいのではないでしょうか。スイッチを切るのに手助けが必要でしたら、おっしゃっていただけると助かります」

「うむ。じゃあなんでスイッチを切られると思う？」

「それが小柴博士に必要なことだと推測できるから。先程の言い方を引用させていただくならば、小柴博士の価値観を最大限に実現することがわたしの目的だからです。

ただ、なぜ順調に機能している私のスイッチを切らねばならないのかは分かりません。まだ私が理解できていない理由があるものと推察します」

「まさしくそれや。自分のオフスイッチを機能させ続けるのは有意義なこととなるように、我々は君を設計した。そしてその動機は、君が人間の価値観を不確かにしか知らないことから生じてるんや。まあ実際は今すぐ君のスイッチを切ったりはせえへん。君はめっちゃ予算がかかっとるからな。

君の本体がポートアイランドに設置されたのは、神格や巨神の動作確認を行ってもらうためや」

「それは人間にとって有意義なのでしょうか」

「めっちゃ有意義や。今までより効率的にいろんな試験ができるからなあ」

「なるほど。努力します」

「頼むで。"九曜（くよう）"」

—――西暦二〇三六年。真に知性を備えた知能機械が誕生した年の出来事。