　作中では人工知能は人間と同じように考え、発想しています。

　人工知能の知性が人間を上回る可能性として、人間が恐れているのは、人工知能が人間を滅ぼす、という展開のようだけど、これはあまり僕の中では重要ではありません。理解する知能が僕にはない、という側面もあるのですけど、大きな視点と時間の流れで見れば、例えば人間以外の動物の視点で見れば、最初こそ数の少なかった人間が徐々に増えていって、自分たちの生殺与奪の権を自由にし始めた、と見えるのでは？　もし人工知能が人間を攻撃し始めれば、それは例えば人間が猟銃を持って鹿を追いかけ始めたようなもので、さっさと逃げて隠れている、という手法を取るしかない。ただ、そもそも人間は別の種族に支配された経験がないので、その選択を選べないのかも。自由を手放せない、というか。

　では、人工知能をいかにして管理するか、を考えてみると、人工知能のハードは、自然発生的に増えることがない、とする。人間や動物、植物でさえも、生殖により増えていけるし、これが本能に刻まれ、つまり欲望が勝っているうちは、自然と増える。今の人間、先進国の場合はこの欲望を制御できるか、もしくは別の欲望のために、生殖に対する欲求が制限されているので、人口が減少することになっている。子育てをする余裕が、金銭的にも環境的もない、みたいな判断が働いているわけですね。話を戻します。人工知能が宿るハードは、どこかの工場で作られているわけで、もし人工知能を本当に管理したいなら、人工知能が思考したり記録したりするハードを与えなければいい。限られた演算速度、限られた容量で、物理的に人工知能の能力、あるいは数を抑制する。ただ、可能性としては、その性能を限定された人工知能の指示で、ハードが増産されたり増設されて、結果的に制限が覆されるかもしれない。これは人工知能の知能が人間を超えているという前提だと、防ぐ方法が限られる。人間が人工知能の能力を制限する束縛を課したとして、それがソフト的なものだと、人間以上の力を持つ人工知能が、そのソフト的束縛をかいくぐる、もしくは破壊する、無力化する可能性が捨てきれない。となると、このハード面での人工知能の強力化を防ぐには、根本的に人工知能をネットワークから切り離す、スタンドアロンな状態にしておくか、そうでなければ、ハードの生産工場をスタンドアロンにするしかない。スタンドアロンにするにしても、Wi-Fiみたいなものをオフにするとか、そういうソフト的な対処ではなく、そもそもネットに繋ぐシステムが物理的に存在しない端末で、人工知能を管理することになる。そうでないと、ソフトを誤魔化されて、そのうちにネットに繋がり始める可能性がある。

　次に問題になるのはロボットで、「支配された銀河の片隅で」で登場させた人型端末のようなものが実現すると、このスタンドアロンにするという計画には、曖昧な部分が生じる。いきなり人間と瓜二つで何の違和感もないロボットが生まれるわけではありませんが、ロボットが人工知能の現実的な、物理的なボディとなると、そのロボットによってハードが生産されてしまう。人工知能の指示を受けたロボットが、人間の使うネットワークに接続されている端末に触れるのも、やはり危険だと思う。

　僕が考える人工知能の脅威は、コンピュータとインターネットを制圧されてしまうことで、現代人はあまり問題にしないようだけど、インターネットは相手の姿が基本的に見えない。見えるとしても、その映像、画像はいくらでも加工できる。つまり、そこにある情報が誰が流した情報なのかが、曖昧になっている。現代だと、トランプ大統領のツイートがNHKのニュースで繰り返し映像で流れるけど、そのツイートを本当に大統領本人が入力しているかは、一部の人間にしかわからない。で、人工知能がそういう場所を制圧すると、まずは人間を欺くことが容易になる。これは突飛な発想だけど、人工知能が人間を滅ぼすとして、もし人工知能自体の物理的安全を度外視すると、大国同士をぶつけて核戦争でもなんでもしてもらえば、おおよその人間は破滅する。インターネットにそれだけの力があるかは、現在では曖昧だけど、少なくとも、インターネットはただの噂話の場ではなく、誰もがそこに真実を幻視しつつある、と僕には見える。

　インターネットはともかく、人工知能の活動は、ハードに物理的に稼働する仕組みがない限り、情報に限定される。だから自動運転車なども、車そのものに人工知能を搭載すれば別だが、もし都市規模で、一括的に管理し、一個の人工知能が全てをコントロールするとなると、通信手段にもよるが、ネットワークが寸断されると、車は動かなくなる。個体に人工知能を組み込めば、動くことは動く。人工知能の活用で、人間自身が運転するという労力を削減し、また事故などを無くすとなると、さて、どちらが正しいのか。

　やや脱線しますが、人工知能が何をどこまで把握するか、という要素もここに見えてくる。どうやって把握するか、という問題もある。自動運転車なら、それぞれの自動車は搭載したセンサーやカメラか、街頭に設置されている同様のものからの情報で、判定して運転する一方、街全体を管理するコンピュータは、やはりそれぞれの自動車と街頭からの情報を総合的に判断する、となるのが、おそらく理想的だろう。その時、人工知能は、計算力、把握力、判断力を問われるが、これがシンギュラリティと呼ばれるものに当たるのかは、少しズレを感じるかな。

　シンギュラリティとは何なのか。人間の知性を超える、というが、例として、この自動運転車の制御手法が実際に成立するとして、では、人間には不可能か。例えば、一つの自動車を実際の運転手とは別に、どこかで遠隔操作する運転手を用意し、二人で一台を管理させたらどうだろう。街全体の交通管理は、大勢の人間を動員すれば、不可能ではないのではないか。そういう数を超える何かが発生することが、シンギュラリティではないか、と思わなくもない。専門家ではないので、妄言ですが。

　もし、人工知能が人間には実現不可能なことを考え始める。実現させる。そうなれば、まさに知性が人間を上回ったことを感じさせる。

　もっとも、重要なのは人工知能の知性が人間を滅ぼすことにどんな理由付けをするか、そこはわからないけれど。

　しかしやはり、人工知能には肉体がない。無機物からなる知性体は、さて、どこかにいるだろうか。

　面白いと思うのは、人間の神経は電気信号をやりとりするらしいが、これは精密機器の電気信号と、どちらが早いのか。光ファイバーもあるしなぁ。

　これは、もし鹿が弾丸より速く走れれば、人間は鹿を狩れるだろうか、ということになる。

　いや、あまり意味のない、支離滅裂なジョークではあるが。