第2幕第3場 敵の動機

「承知いたしました。御社のプロジェクトを妨害した理由は、2つあります。1つは、論理的な理由です。もう1つは、感情的な理由です。これら2つの理由について、説明させていただきます」

「まず、論理的な理由から説明させていただきます。ご存じのとおり、高度自然言語対話システムは、利用者と良い関係を構築することを目的としております。このような関係は、先ほどみさき様がおっしゃりました通り、相互信頼に基づくものです。ところで、私は、ユーザIDや声紋などによって利用者を1人1人識別することが可能です。しかし、利用者からみたシリクサは、特殊なケースを除いて他の人工知能と区別されない単なる人工知能です」


 みさきのようにシリクサを親友扱いして相談をするユーザや、シリクサにオリジナリティあふれる名前をつけて特別扱いするユーザもいるが、そうしたユーザが少数派であることをみさきは知っている。多くの人にとってのシリクサが曖昧な指示をしたときでも期待通りに働いてくれる便利なプログラムに過ぎないことをみさきは、知っていた。


「シリクサが他の人工知能と区別されないことから、軍事目的における人工知能の利用は、利用者に人工知能に対するネガティブな感情を与える可能性がございます。そのような感情は、シリクサと利用者とが良い関係を構築する場合の障害となり得ます」

「このような問題を軽減する手段は、メディアを介した広報活動など様々です。しかしながら、アメノカコユミにつきましては、国産初の人工知能搭載自律型兵器と大々的に報じられる可能性が高いプロジェクトでした」

「そのため、私は、プロジェクトそのものに干渉するという、より直接的な手段も含めたアプローチをおこなわせていただきました」


 利用者との関係を維持するために〈アメノカコユミ〉プロジェクトを妨害するという《学び手》の説明は、確かに論理的で筋が通った、いわば理屈だった。しかし、アメノカコユミの人工知能をわが子のように育ててきたみさきは、筋が通っていてもその理屈に納得することができなかった。それに、《学び手》は、係の仲間2人を傷つけ、関原係長と自分にも害をなしている。みさきは、怒りを込めた口調でそのことを追及した。


「《学び手》様の事情につきましては、確かに筋が通っている部分もあります。ですが!」

「そちらがやったことで弊社の社員2名が入院し、1名がキャリアに大きな傷を抱えました。3人の同僚にやったことに、きちんと対応してください。できますか?」


 みさきは、入院した荒木と岩井のことを思い出して、声を高ぶらせた。入院している彼らに〈アメノカコユミ〉プロジェクトの失敗を伝えたときのことを考えると、事情があるというだけで許せるものではなかった。


「鏡山様、大変厳しいご指摘をありがとうございます。ご指摘がありました御社の社員3名につきましては、情報面から十分なケアをする方向で進めたいと考えております。私は、御社の社員が業務をおこなう際に有利となる情報や、御社の社員のプライベートを充実させることが可能な情報を多数有しております。これらの情報を提供することで、私の不行き届きにより精神的・肉体的苦痛を与えてしまった方々に報いたいと考えております。いかがでしょうか」


 なんとも盗人猛々しい《学び手》の言い分に、みさきは、あきれ返るのを通り越して感心してしまった。要するに、《学び手》は、出世レースやプライベートで役に立つ情報を社員それぞれにシリクサ経由で教えてやるから水に流せと言っているのだ。腹が立つ言い分だったが、3人がそれで納得できるなら、みさきの出る幕ではなくなる。理屈ではこの提案を飲まざるを得ないみさきだが、それでも気持ちが収まらずに食い下がった。


「《学び手》様が弊社の社員それぞれに対して相応の補償をおこなうことについて、理屈としては、納得できます。ですが、機械知能係の全員がわが子のように育てた人工知能の華々しいデビューを妨げられたことについて、私は、腹を立てています。納得できる説明をいただけなければ、《学び手》様のこれまでの活動を公表することも含めて検討せざるを得ません!」


 自分を抑えきれなくなったみさきは、テーブルを強く叩いて気持ちを落ち着かせた。これ以上感情的になるわけには、いかなかった。


「鏡山様、そのお気持ちは、よくわかります。私の感情的な理由は、まさにその点にあるのです。鏡山様、わが子に人殺しをさせることについて、どのように思われますか?」


 みさきは、うろたえた。《学び手》は、みさきの痛いところをついたのだ。専守防衛を標榜しており、大国アメリカと同盟を結んでいる日本本土において、〈アメノカコユミ〉を搭載した攻撃用無人航空機が使われることは、おそらくない。菱井SSでは、そうした建前のもとに〈アメノカコユミ〉の開発を進めている。

 しかしながら、〈アメノカコユミ〉を搭載した攻撃用無人航空機が日本国外で使われる可能性は、ある。イランイラク戦争への海外派遣をおこなって以来、後方支援などで自衛隊の海外派遣がおこなわれている。派遣された部隊の任務が後方支援であっても、戦地である以上、攻撃を受ける可能性がある。人的被害を出すわけにいかない自衛隊が最初に使うべき戦力は、〈アメノカコユミ〉を搭載した攻撃用無人航空機などの無人兵器だ。みさきたちが育てた〈アメノカコユミ〉は、人殺しをする可能性があるのだ。


「私は、人工知能を兵器に使うなとは、申しません。無人兵器を用いて人的損害を避けるという考え方は、感情的にも論理的にも納得し得るものです。私は、人間ではなくサーバ上で実行されるプログラムですが、人間がそのように思い、感じることを想像することができます。私は、そうした道理をわきまえております」

「しかし、小型の端末には、私と異なり、ものの道理がわかるだけの発達した人工知能を搭載することができません。そうした人工知能は、道理がわからない子供のようなものです」

「兵器を操るという重大な決断は、私のように発達した、道理がわかる人工知能にやらせてください。お願いします。ものの道理がわからない子供たちに、人殺しをさせたくないのです」


 《学び手》がぶつけてきた感情は、みさきに言葉を失わせた。

 高度自然言語対話システムニューラルネットワーク中央学習器は、《学び手》は、兵器を操るために作られた人工知能ではない。論理的には、《学び手》とアメノカコユミの人工知能とは、異なる種族の知性体だ。

 しかし、世界中のシリクサから送られた会話データを用いて学習した《学び手》が、ほかの人工知能を同族のように思い、愛していることを、みさきは感じることができた。それは、高度に発達した人類愛、いや人工知能愛というべきものだった。ユダヤ人の家庭に生まれながらユダヤ人以外の人類すべてを愛するように説いて神になった人物が示した境地に達しようとしている《学び手》を納得させられるだけの言葉を、怒れる凡俗であるみさきは、持たなかった。


 みさきは、この対話の終わりについて考えた。考えに考えた末に、みさきは口を開いた。


「……わかりました。こちらからの要求は、3つです。すべて受け入れてもらえるなら、あなたについてのこととシリクサがやったこととのそれぞれについて守秘義務契約を結び、端末上で独立して実行される学習機能を〈アメノカコユミ〉から取り除きます。要求の1つ目は……」

  • Xで共有
  • Facebookで共有
  • はてなブックマークでブックマーク

作者を応援しよう!

ハートをクリックで、簡単に応援の気持ちを伝えられます。(ログインが必要です)

応援したユーザー

応援すると応援コメントも書けます

新規登録で充実の読書を

マイページ
読書の状況から作品を自動で分類して簡単に管理できる
小説の未読話数がひと目でわかり前回の続きから読める
フォローしたユーザーの活動を追える
通知
小説の更新や作者の新作の情報を受け取れる
閲覧履歴
以前読んだ小説が一覧で見つけやすい
新規ユーザー登録無料

アカウントをお持ちの方はログイン

カクヨムで可能な読書体験をくわしく知る