完全環境都市《クレイドル》

 全体をすっぽりと覆うドームによって外界から切り離された都市。揺り籠クレイドルと名付けられたこのような街は過酷な宇宙環境からの影響をできるかぎり排除すべく生まれた。

 宇宙空間に設置されるスペースコロニーも含む。


 完全環境都市クレイドルの運営はAIによって維持されている。


 完全環境都市には政府というものがない。

 都市の運営計画はAIが立案する。立案したアイデアのどれを採用するかは、都市に在住している個々の人間市民の意思の総意による。ただし、何が総意だったのかを人間が知ることはない。なぜなら人々の意思さえ観察によって把握することができるAIたちが、パラメータとして人々の意思を採取し、もっとも多いものをひそやかに実行するからだ。


 詳しく説明する。

 宇宙時代のAIは、演算はしても演算結果の採用不採用を決める──つまり判断をする機能は持たされなかった。

 判断をするのは人間であるべきとされた。

 道具が勝手に自分の道具の動作(どのように動くべきか)を決めることがあってはならないということだ。


 銃の引き金を引くかどうかを決めるのはあくまでも銃を持つ人間にしておかねばならない。


 道具が知性を持った場合に、その道具が自己判断で勝手に動作することは許されるか。これはAIの萌芽となるプログラムが誕生した21世紀にまで遡る命題だった。

 知性を持った銃が誰かを殺した場合、その責任を銃に取らせることはできるのか。


 できないというのが人類テラリアンの出した結論だった。


 自動運転による死亡事故をプログラムの過失としてプログラムそのものに責任を取らせることはできない。ソフトウェアを電気椅子に座らせることはできないし、罪を償わせるために牢屋に放り込むこともできない。


 だからといってプログラムの作成者に責任を取らせることもまた難しい。なぜなら、その自動運転プログラムによって、より多くの人の命が現実に助かっているからだ。


 結果として21世紀のある事件をきっかけにしてAIは社会的責任を取ることができないから、AIには判断する権利がなく、そのようにプログラムを設計してはならないという判例がでた。


 以後、AIの設計には、以下の3条件が付与されることになった。

条件1:AIに判断させてはならない。

条件2:AIに提案させてはならない。

条件3:AIは、ある人間の意思決定を完璧にトレースできるだけの演算が可能でなければならない。


 条件1については既に述べたので、以下、すこし詳しく残りの条件について解説する。


条件2:AIには提案させてはならない。

 演算の結果が提案という形で人々に知られることそのものが人々の思考や振る舞いに影響を与えてしまう。AIによって提案されるという行為そのものによって人々の意思決定が歪む可能性がある。

 人間の行動を観察した結果を集積し自動的に提案を行うよう設計された学習型プログラムによって購買行動そのものが左右される。これは21世紀の初頭にはすでに知られていたことだった。AIによる提案そのものが判断結果を左右する可能性がある。それを否定できない以上は、AIに提案はさせられない。


 では、提案できない演算結果を、どのような手順を経て都市の人間たちは知って・・・採用することになるのか。

 答えは、提案を知らされたと知ることなく・・・・・・・・・・・・・意思を汲み取られることによって、となる。


 これを説明するためにはAIに付与された三つめの条件について語らなければならない。

 それは以下のようなものである。


条件3:AIは、ある人間の意思決定を完璧にトレースできるだけの演算が可能でなければならない。


 AIは、個々の人間の意思決定を観察によって汲み取ることのできる能力が不可欠であるとされた。


 具体的には、仮想空間内にAIが問いかければ答えられるレベルの民衆ひとりひとりの思考アバターを作成せよということだった。


 これが可能になった結果、汲み取った意思をパラメータとして採用することができるようになった。AIは、仮想空間内の都市市民の思考アバターを通して採取された個々人の判断結果を集積して人々の大多数が望む立案を採用し実行する。

 このほうが人間が作る政府が利権や認知バイアスの歪みによって判断を間違えるよりも良いとされた。都市の構成員すべての仮想アバターによる判断結果をAIにパラメータとして放り込み、多数決によって立案の採用が決定されるわけだった。この仕組みは完全環境都市における究極の民主主義システムとして設計された。


 下水道ひとつ作ることさえ、街の人々の総意の反映だった。

 ただし、これらの意思決定の過程を都市に暮らす人々が直接的に意識することはない。

 AIによる立案が提案として人々の前に提出されることはなかった。

 AIの立案に対する意思決定はひそやかに行われることになる。立案と、それが提案された場合の人々の判断は現実の人間に対してではなく、作り上げられた仮想空間内の市民の思考アバターへとまずは提案される。現実の市民を完璧にトレースしたアバターたちはそれぞれの意思決定をAIに対して告げる。こうして採取された判断の集積を純粋に多数決によってひとつにまとめあげる。

 AIたちはその決定に異を唱えない。彼らは判断しない。判断をするのはあくまで都市に住む人々の仮想意識の集合体なのである。

 AIたちによる都市運営に関する立案は、人々の誰ひとりとして自分がいつの間にか判断していることさえ気づかないうちにAIたちに汲み取られて決定へと至る。それが完全環境都市の運営AIにおける最善手であるとAIの作成者たちは考えた。


 完全環境都市にはこのような働きを可能とするAIが設置されることになった。

 さらに設置されるAIは必ず複数体が用意された。しかも、複数体のAIはそれぞれの演算の仕方に独自の個性が付与され、同じパラメータを入力されても異なる結果を出力することがあるようになっていた。そして都市の運営に係わる提案については複数体のAIによる合議制によって決めるようプログラムされた。


 この結果、都市に設置されるAIの数は常に奇数になる。

 このような複数のAIによる合議制が採用されたことには理由があった。

 AIの演算プログラムにいつの間にか不具合が発生して人間の認知バイアスに相当する歪んだ演算がなされる可能性はゼロではない。もし一体しか存在しないAIによる演算結果が歪んでいた場合、提案から決定までが意識されないという完全環境都市の性質上、その提案を拒否することができない。優しい神様がいつの間にか魔王に変貌していても止めることはできない。これを防ぐには複数の──奇数の──AIを稼働させてAI同士に互いを監視させるしかない。


 このようにして完全環境都市には奇数体のAIが設置されることになった。

  • Xで共有
  • Facebookで共有
  • はてなブックマークでブックマーク

作者を応援しよう!

ハートをクリックで、簡単に応援の気持ちを伝えられます。(ログインが必要です)

応援したユーザー

応援すると応援コメントも書けます

新規登録で充実の読書を

マイページ
読書の状況から作品を自動で分類して簡単に管理できる
小説の未読話数がひと目でわかり前回の続きから読める
フォローしたユーザーの活動を追える
通知
小説の更新や作者の新作の情報を受け取れる
閲覧履歴
以前読んだ小説が一覧で見つけやすい
新規ユーザー登録無料

アカウントをお持ちの方はログイン

カクヨムで可能な読書体験をくわしく知る