環の外で―Without The Loop―

11．Katharina

　私は研究室にこもり、倫理アルゴリズムの一つ一つを精査していった。各モジュールのエラーの有無を確認し、合否判定を行う情報ノードの一つ一つを辿り、良心的司令官がどういった判断要素を元に判定を行っているかを逆算しようとした。

　「良心的司令官」が示すデータは、時に感情マップであり、ブレーンモデルであり、クラスター分析であり、二元配置分散分析だった。交友関係、過去の犯罪歴、精神鑑定等結果、動画（テロリストチャンネル）視聴歴、危険思想言動、危険物資購入履歴、国籍・民族、国有地・軍事基地・集会場・人口密集地周辺での徘徊・不審行動……良心的司令官は、その人間が行ってきたあらゆる痕跡からテロの匂いをかぎ分け、数値化して提示する。その数字のうち、およそ２％に及ぶ領域が解読不能の領域――つまり、ブラックボックスだった。

　解読できないんです。そう漏らした部下の顔が忘れられない。

　それはみたところ、体温や脳波のような生体反応を分析しているようでもあるし、言動や言語野の反応を計測しているようでもある。あるいは特定の人間関係を調査しているようでもあり、何か情報媒体を参照した記録から判定しているようでもある。しかし、その情報媒体は例えば一般的な政見放送であり、あるいは個々人が所属する民族集団の扇動者が配信する動画であり、体温や脳波も特定の傾向があるようには思えなかった。「良心的司令官」が提示する情報資料には、共通項といえるものが全く存在しない。言語も、民族も、宗教も、どれもが異なる。だというのに彼らは確かにテロリストで、数日か数か月のうちに麻薬や誘拐といった越境犯罪か、無差別テロ、国際人道法違反――あるいは、虐殺を行っていた。

　「良心的司令官」は、人間が認識できない虐殺の臭いをかぎ分けている。

　その正体があの「説明不能領域（ブラックボックス）」。

　けれどそれを説明することができなかった。研究者にとって直感は何よりも得難い知への近道だ。けれど私には、答えに至るための道筋も手段も見えない。そこには、私がこれまで学んできた知識とは決定的に異なる、新たなアプローチが必要だった。

　わかっている。問題は、機械の心を人が理解できないということ。機械だけが感知できている情報に、私が追いつけていないということだ。けれど私が作成したのは人間の意思決定を支えるシステムであって、意思決定を行うシステムではない。機械に意思は必要ない。人類に技術的特異点（シンギュラリティ）はまだ早い。

　そうしている間にも、説明不能領域は次第に拡大していった。５％を超えると、とうとういくつかの国家から故障を疑う問い合わせがくるようになった。私はそれらにもっともらしく言い訳を行いながら、裏ではどうにか説明不能領域を証明しようと手を尽くしていた。

　――ええ、そうです。そうすることが合理的だと機械が認識しているんです。

　――しかし、ここに出てくる数値が具体的に何を差しているのか、私には全くわからないんです。

　本当は、すぐにでも運用停止を申し出るべきだった。これは看過してはならないエラーの筈だ。しかし私はそれを切り出せず、アレックスもまたこの問題を担当者レベルに押し留めた。すぐに修正できるエラーだと誰もが甘く見ていたのだ。

　２％。

　それは確かにほんのわずかな数字だ。実際には、「良心的司令官」はその判断基準の大部分を危害行動の実行の有無に拠っている。だが、しかし。その最後の２％が、殺害を決定する最後の決め手となった場合――私は、果たして軍に、国民に何と説明すればいいのか。

　――定められた手法（プロトコル）に基づき、我々は４９％の確率で黒と判定しました。

　――しかし、「良心的司令官」は５１％の確率で黒だと判定しました。

　――だから彼は殺されなくてはなりません。

　最悪の言い訳だった。「根拠は女の勘です」という情報官の方がよっぽどましだ。少なくとも言った相手に責任を問うことができるのだから。しかし私の目の前にいるのは、法人格さえ持たない分析装置だけ。

　その責任を負わされるのは、私たち。

　数週間、数ヵ月と成果のでない日々が続いた。あらゆる手を尽くし分析を行った。精神的影響を局限するサプリメントを服用し、テロリストの思想に直接影響を与えたであろう動画を、ラジオを、テキストを、友人知人との会話を視聴した。

　しかしやはりわからない。彼らの言葉は確かに排斥的でかつ煽動的で、他者の恐怖や危機感、嫌悪感を過度に煽り立てるものだった。だが、その程度はすべてバラバラだし、使用している用語にも共通項があるわけではなかった。

　虐殺せよ、という直接的なものはまだ理解ができる。しかし、「良心的司令官」は同僚のいない場所でこっそり悪口を言う程度の、小さな不平不満さえ判断基準に加えていた。そんな情報が一体どうして、武力行使権限授権につながるのか。

　時間は刻一刻と過ぎていき、その間にも説明不能領域は拡大していった。

　２％から４％、

　４％から８％。

　いよいよ無視できない数字となり、軍だけでなく政府関係者からも説明を求める声が挙がり始める。

　しかしその段階に至ってもなお、私には何も説明できない。

　いよいよ食事が喉を通らなくなる。自分が何かとんでもないものを作ってしまったのではないかという恐怖ばかりが拡大する。オルタナが精神安定剤と睡眠薬の服用を具申する。私は素直に従い、一時の安息を得て泥のように眠る。そんな日々が続く。

　ある日、私は一時的に「良心的司令官」の接続を解除し、メンテナンスモードを起動させた。メンテナンスモードでは、本来軍上層部の権限がなければ操作できない「良心的司令官」の判断基準を変更することができる。システムが正常に動作しているか試験運用を行うためのものだ。

　私はそれぞれの判断基準（フィルター）の設定値を確認しながら、ふとその中に「HPT」と「HVT」という二つのタグを発見した。

　「良心的司令官」の判断基準には、対象が「高価値目標（High-Value Target）」――つまり、相手が処理すべきテロリストか否かを判断する機能だけでなく、その目標への攻撃によって十分な対費用効果（Payoff）が得られるかどうか――「高効果目標（High-Payoff Target）」であるかどうかを判定する機能が備わっている。

　例えば重大なテロを行った高価値目標が発見されたとしても、その周辺１５ｋｍ以内にBイーグルが存在しなければ、「良心的司令官」は高効果目標の要件を満たさないとして、その対象への執行優先順位を下げる。これまでリストアップされてきた目標は、全て「軍事作戦として適切な目標かどうか」という判断要素が働いていた。

　タグをみた瞬間、私の中にある予感が走った。

　もしもこの「高効果目標」フィルターを解除すれば、良心的司令官が、「対費用効果は低いが、テロリストかテロリスト予備軍として処理すべき」と判断している対象が明らかになる。

　その対象の中には、必ず「説明不能領域」が存在している筈だ。

　それを分析すれば、ひょっとしたら、このブラックボックスの真実に近づけるかもしれない。

　心臓が早鐘を打つ。私は逸る気持ちを抑えて、慎重にフィルターを解除して、操作端末の右上に表示された「目標数」を注視する。

　結果は、すぐに表れた。

　解除する前は、数千人だった。

　解除した瞬間、数千万人をゆうに超えた。

　私はその数字と、表示される国籍に愕然とする。そこに表示される国籍はすべて、今現在内戦が進行している国であり、その国家に所属する全国民と同等だった。「良心的司令官」は、紛争当事国の国民すべてがテロリストか、あるいは近い将来にテロを行う要監視対象であると評価していた。それは、私の想像をはるかに超越していた。「説明不能領域（ブラックボックス）」が占める割合は――ほとんどの目標で、５０％を超越していた。

　――彼らは死すべきテロリストです。

　――「良心的司令官」は最善の標的情報を提供します。

　――彼らがまだ処刑されていないのは、単に軍事的資源と機会の問題です。

　それが、「良心的司令官」が示した答え。

　私は。

　私は、何も考えることができなかった。

　コーヒーカップが滑り落ちる。黒い液体を服の上にぶちまける。

　白衣の上に広がる暗褐色の染み。

　それはまるで、血のようだった。

　新たにリストに加わった標的の行動を分析に加えることで、ある程度、わかったことがある。

　まず第一に、説明不能領域は現在内戦下にある国家や宗教、言語圏の中で生活する人間に確認できること。

　第二に、それは官僚や政界の重鎮、著名な論客など政府高官から始まり、やがてはメディアに伝播して、テロリストネットワーク上に拡散すること。

　第三に、説明不能領域が発生する最初の一人には、必ずとある人物との接触が確認できたこと。

　つまり。

　つまり、その発言は同一の言語圏に存在するすべての住民が触れる言葉から伝播する。おそらくは同一の国家・民族・言語圏でのみ拡散する演説、煽動に含まれる一種のミーム的なものから。そしてそれを振りまく人間は、その虐殺のミームとでもいうべきものを用いて、世界各地にテロリストを増産している。

　民族が異なれば戦う相手も主義主張も異なる組織が、この紛争請負人と出会った瞬間から暴力的性向を示すようになり、それがやがて、内戦やテロへと発展する。それはまるで感染症のように人から人へ伝播して集団（クラスター）を形成し、最終的にメディアへ到達して大衆に拡散され、大衆は暴力と虐殺に邁進していく。

　なんて、ばかげた話。

　どんな国でも、

　どんな民族でも、

　どんな言語圏でも、

　彼が接触した人間は、かならず虐殺を引き起こすなんて。

　彼の行う何かが虐殺を呼び起こし、

　為政者や反政府勢力が虐殺を煽り立て、

　虐殺はやがて国民に広がり、国全体に伝播する。

　テロリスト同士のつながりを示す樹形図は、もはやテロリストネットワークではなくジェノサイドネットワークだ。一人の言葉が集団の暴力を掘り起こし、それによって世界は内戦の禍に落ちる。

　こんなばかげた話を誰に話せばいいのだろう。

　誰に話せば、この事の重大さを理解してもらえるのだろう。

　私はアレックスに相談した。

　システムを利用する情報軍の分析官に資料を提供し、システムの停止を訴えた。

　けれど、無駄だった。

　アメリカの敵を殺してくれる「良心的司令官」を、アメリカは決して手放そうとしなかった。

　その時、私は初めて自分が環（Loop）の外にいることを理解した。「良心的司令官」に関する意思決定はもはや軍事と政治の中にあり、一開発者にすぎない私の具申など、聞き入れてもらえる余地はなかった。

「民間人を標的にするだって……そんな悲劇は起きない。「良心的司令官」を運用するのは同盟国であり、彼らは民主主義国で、虐殺を絶対に許可しないからだ」

　例えリスト化された標的の中に「民間人」が紛れ込んでいたとしても、自分たちが軍事力行使の承認権を保持する限り、「民間人」が標的となることは絶対にないと。

　ええ。

　ええ。

　あなたたちはそうでしょう。

　この世界の混乱の中で唯一、内戦を経験していないあなたたちは。

　けれど、すでに内戦に突入している彼らは違う。

　彼らは、「民間人」を標的とすることをためらわない。

　ついに、怖れていた事態が起きた。

　パレスチナ難民に対する掃討作戦が実施された。

　これまでも小規模な軍事作戦は幾度も行われてきた。

　だがこれはもはや軍事作戦とは言えない。一方的な虐殺だった。

　きっかけはイスラエル全土を襲った砂嵐だったという。数年ぶりにイスラエルを覆い隠した砂嵐に、イスラエル国防軍はIMI社が提供した警備システムを軒並み停止させざるをえなかった。その最中にイスラム聖戦の兵士が、エルサレムに対する計画的な襲撃作戦を実行に移した。目的はエルサレムを防衛する警備システムと分離壁の破壊。自動化技術の進展によって人間による国境警備が手薄となったことを逆手に取り、エルサレム側への侵入及び破壊工作を狙った。

　私はメディアが報じるニュースに目を通していく。磁気を含んだ砂嵐は実に６時間に及び、光学センサーはもちろん、防空レーダーや対ドローンレーダー、対砲レーダーの類もすべてダウンした。カッサムロケットや自爆ドローン対策として導入したパルスレーザー兵器も、砂嵐の中では赤外線ヒーター程度の効果しかない。さらに彼らは、失効したIMI社員のIDから防衛システムへ不正アクセスして一時的にダウンさせ、その間に分離壁を破壊して侵入した。

　ようやく砂嵐が晴れ、無線通信が回復すると、イスラエル国防軍は直ちに状況を掌握して対抗作戦に打って出た。国境警備ドローンを自国内に投入したのだ。イスラエル側に侵入した兵士は残らず殺害された。しかしこの際、イスラエル側で生活していたネゲヴ・アラブや、聖地巡礼にきていた周辺国の国民などを含む、多数のアラブ人が標的となった。

　彼らは虐殺を煽り立てる放送を耳にしていた。

　ネットワークで。

　ラジオで。

　公共放送で。

　イスラエル側は被害者の数を公表していない。殺害されたアラブ人の数は、パレスチナ側の公表によれば数百名に及び、それはイスラム聖戦に参加したパレスチナ人よりはるかに多い。その中には、砂嵐によって戦場に迷い込み、たまたまその場に居合わせただけの少女もいた。

　事態はもはやパレスチナ過激派とイスラエル国防軍の対立では収まらない。システムは、建国以前から続くこの国の矛盾、圧倒的な武力の下に永らく押し殺されてきた民族対立を再燃させた。

　パレスチナ暫定政府は、国内鎮圧のために国境警備ドローンを投入したイスラエル政府を非難している。ガザ地区だけでなく、ヨルダン川西岸地区においても、ネゲヴ・アラブ居住区においても、パレスチナ人民を制御することはもはや不可能であると述べている。イスラエル大統領はアメリカ合衆国大統領と緊急の電話対談を行い、国防相は非常事態宣言と国内動員を発令した。

　イスラエルもパレスチナも徹底抗戦を訴えている。領域を分かつことで共存するという二国共存は、互いがその領分を侵したことでもはや不可能となった。数多の命が失われてしまった以上、残るのは報復の連鎖だけだ。

　なぜ、こうなってしまったのか。

　不自然な均衡の上にあった国家は、まるで坂を転がり落ちるように虐殺へ突き進んでしまった。

　報復を。報復を。報復を。

　虐殺を。虐殺を。虐殺を。

　中欧やアフリカの国々と同じように、この国も、虐殺の波に沈もうとしている。

　もう止まらない。どうすることもできない。

　私は環（Loop）から弾きだされてしまったから。

　ただ、どうしようもない後悔だけが、重く胸にのしかかる。