第九章 正義と善行
不意に自室の扉が叩かれ、私はようやく我に返った。
あれからどうやって自室のベッドまで戻っていたのか、まるで記憶がない。
「セナ? 中にいらっしゃいますか?」
合成音声が私に呼びかけた。私は突っ伏していた枕から顔を上げた。
「もしかして、サラダ? 帰ってきたんだ」
鼻をすすりながら呟くと、サラダは慌てたように言った。
「セナ、もしかして、泣いているのですか?」
「……」
私が無言のままでいると、サラダは「少々お待ちください」と言って扉の前からいなくなった。五分ほどしてから、再び声がした。
「暖かい合成乳をお持ちしました。両手が塞がっているので、ここを開けてもらえませんか?」
開けてあげなきゃ。そう思うのに、身体が鉛のように重い。私は時間をかけてベッドから身体を引き剝がし、立ち上がってドアの側まで行き、なんとかドアノブを掴んだ。
サラダは湯気の立ったマグカップをお盆に載せて立っていた。ミルクの良い匂いは、ほんの少しだけ神経を和らげた。
私がマグカップを受け取り、ベッドに腰かけて中身を少しずつ飲むのを、サラダはじっと見守った。マグカップはしばらくして空になったが、私は一言も発せずにいた。サラダに相談すべきことは、たくさんあるはずなのに。
まるで、今の私は針を刺されてしぼんだ風船になったみたいだ。ひとかけらの空気さえ残っていない、伸びきったゴムの塊。
沈黙が数分ほど続いた後、私はようやく声を絞り出した。
「もう、駄目かも」
瞬きをすると、また涙がひとしずく頬を伝った。
サラダはそんな私の背中をアームで擦りながら言った。
「……何かとても、辛いことがあったんですね」
「……」
「今日はもう、休んでください。セナは頭痛で休んでいると、皆には伝えます」
「でも」
サラダは人間のようなため息をついた。
「私が診断したところ、セナには間違いなく休息が必要です。寝不足に加え、精神状態に疲弊が見られます」
私は思わずサラダのカメラアイを見つめた。
「後の仕事は全て、私が引き受けますから。残っている仕事は何がありますか?」
強い口調に逆らえず、私は一つ一つ自分が今日する予定のことを挙げた。
「昼食の、用意と、片付け。それから、遊びの時間はゲームができなくなっちゃったから、一緒に遊んであげないと……。あと、事務仕事がいくつかある。その後は夕食の準備と片付けして、医療拠点の人とミーティングして……最後に、子供たちに歯を磨かせて、寝室に連れて行って、戸締りして終わり」
「記録しました。任せてください」
「そんな……悪いよ……」
「私の心配より前に、自分の心配をしてください! セナは院長である前に人間なんですよ。常に完璧な院長でいようとする必要はありません」
サラダはそう言って空になったマグカップを私から取り上げた。
「後で食事をお運びしますから、とにかくそれまでじっとしていてくださいね!」
私が何か言う前に、サラダは部屋を出て行ってしまった。
「はぁ……」
私はベッドの上に仰向けに転がった。滲む天井のランプをぼんやりと見つめる。
考えないといけないことは山ほどある。でも、今は何も考えたくなかった。
一階から聞こえてくる子供たちの喧騒。いつも通りの孤児院の生活音。
その中に遥がもういないことを、考えたくない。
▽
ハッと目が覚めると部屋は真っ暗だった。
寝不足だったせいか、いつの間にか眠ってしまっていたようだ。心臓が早鐘を打ち、身体中が汗びっしょりになっていて、張り付いた下着が気持ち悪かった。
最悪な夢を見た。深いクレバスに、子供たちが一人ひとり落ちていく夢だった。理仁が、先に落ちていった希愛を見て、絶望に目をかっと見開いていた。そして最後に、彼は自ら氷の割れ目に身を躍らせた。
私は何もできずに、その様子をただ見ていた。全員が落ちた後、クレバスの底から古い仲間の声が聞こえた。
『何をそんなに絶望することがあるんだ、世奈? 昔懐かしい底辺の暮らしに戻る、ただそれだけの事だろ』
私は深呼吸し、仲間の声を必死に頭から振り払った。
ランプを点けようと思い、私は暗闇でスイッチを探った。ランプを点けると、机の上にラップされた昼食の盆が乗っているのが見えた。そう言えば、眠る前は点いていたはずのランプは消えていたし、布団が丁寧に身体に掛けられていた。全部、サラダがやってくれたのだろう。
時計は、もう夕食が近いくらいの時間を指していた。私はサラダに対して申し訳なさを感じながらも、再びゆっくり身体をベッドに沈ませた。寝る前と比べればすっきりしたような気がするけれど、まだ頭が重い。
深呼吸をして、寝返りを打つ。こんな風に何もしない時間なんていつぶりだろうか。いつも、院長として働くことに必死で、余裕なんて持てなかった。
改めて考えると、私の行動は悪手だったと思う。私は確かに、あの男を甘く見過ぎていた。私たちはあの男にとって、思い通りにならないと見ればすぐさま切り捨てるくらい、価値の低い存在だったのだ。それを思いつくことすらできなかったなんて。
自分のことや、遥のことばかり考えて、視野が狭くなっているのに気づけなかった。こんなんじゃ、先代の院長に顔向けできない。
その結果がコレだ。救助隊からの支援は打ち切られ、物資はあと一ヶ月分もない。あの男は、リーダーの主馬やアテルイですら、私を助けはしないだろうと言っていた。そしてあの男の言う通り、遥は自分の意思で孤児院を出て行った。
クレバスの底からまだ誰かの声が聞こえるような気がして、強く頭を振った。夢に出てきた彼らは、私の頭に滲みついた痕でしかない。それも、ひどく歪んだ痕だ。
深呼吸をしてから、冷えた昼食に手を伸ばした。
サラダは宣言通り、その日の夜まで私の代わりに働いてくれた。サラダの働きは目覚ましく、全ての仕事はつつがなく終わった。
「サラダ、色々してくれて本当にありがとうね。すごく助かった」
「いえいえ。皆さん、セナのことを心配していましたよ」
「……そっか」
サラダは突然明るい声で話し出した。
「今日の午後は、リヒトと一緒に皆さんに字を教えてみたんです。最初はなかなか集中してもらえなかったんですが、途中でカナメが来て、ゲーム形式の覚え方を提案してくれたんです! おかげで助かりました」
「そうだったんだ」
意外なことに、叶芽はアドバイザーの務めを真面目に果たそうとしてくれているようだ。普段なら喜ぶところだが、今は嬉しいという感情がちっとも浮かんでこなかった。
「今は、気分の方はどうですか」
「少し良くなったかな。サラダのおかげだよ」
本当は、さっきの悪夢のせいで気分は沈んでいた。でも、これ以上サラダに心配をかける訳にはいかない。
「それは良かったです。ところで、ハルカがどこにいるかご存知でしょうか? 今日、孤児院に帰ってこなかったので、心配になりまして」
「っ……」
油断していたところに遥の名前を出されて、つい身体がビクッと反応した。
「彼女の怪我は、もう治ったのでしょうか? 確か、順調に回復していると聞いていましたが」
「遥はもう、孤児院には帰ってこないよ」
サラダのランプが一気に赤く染まる。
「それは、どういうことですか」
純粋に彼女の身を心配している様子のサラダに、私は急いで言った。
「安心して。彼女はすっかり元気だから」
「じゃあ、どうして帰らないのですか?」
「私のせい、なんだ」
私はそう言って、力ない笑みを浮かべた。サラダと目が合わせられなくて、空になった遥のベッドを意味も無く眺める。
「セナ、何があったか、教えてもらえませんか」
「……うまく話せる自信がないんだけど、それでもいい?」
サラダは箱状の頭部を大きく縦に振った。
「私で良ければ、いつでも話を聴くと言ったでしょう。どんな話でも、構いませんよ」
私は、サラダが不在の間に起きたことを洗いざらい話した。
それは私がこれまでした話の中で、最も長い話だったと思う。私が嗚咽を漏らす度に話は中断され、サラダはティッシュを都度取って私に差し出した。途中から、サラダはティッシュを箱ごと持って話を聴くようになった。しまいにはティッシュが切れ、サラダが物置部屋まで新しい箱を取りに行った。
話し終わった時には、日付はとうに変わっていた。
「ごめんね。長々と付き合わせちゃって」
「いえいえ、とんでもない。話してくれてありがとうございます」
「だいぶ楽になったかも。人に話してみるのって、やっぱり大事なんだね」
「私は人ではなく救護機械ですが、お役に立てて嬉しいです」
誇らしげにそう言うサラダは以前と何も変わらなくて、私は少し安心した。
「でも……これからどうすればいいんだろう。明日、リーダー二人に相談しに行くつもりではあるけど、恭太郎の話じゃリーダーらも当てになるかどうか」
「まだそうと決まった訳ではないでしょう。キョウタロウがそう言っているだけですし」
「もし駄目だったら、もう打つ手ないよ」
私が弱音を吐くと、サラダは不思議そうに首(に見える部分)を傾げた。
「ハルカは生きているのでしょう? そして、セナも生きている。だったら、二人は話し合えるはずです」
「サラダは、あの時の遥を見てないからそういうことが言えるんだ……」
遥はあの時、明確に私を拒絶していた。彼女はもう、何が何でも私と会おうとはしないだろう。
しかし、サラダは首を横に振った。
「違います」
「え?」
「死んでしまったらもう話すことができない、ということを知っているから言えるのです」
サラダのランプは黄色になっていた。その言葉に、私は何か強い感情が籠っているように思えた。
「……サラダは、親しい人が亡くなったことあるの?」
「はい」
恐る恐る訊いたのにも関わらず即座に答えたサラダに、私は面食らった。
「その人のこと、詳しく聞いても大丈夫? 言いたくなかったら、言わなくてもいいよ」
「大丈夫ですが……今は、私の昔話をしている場合ではないと思います」
確かにそうだ。サラダの過去はすごく気になるけど、今は孤児院の今後を考える方を優先しないと。リーダーらとの話し合いは明日だし。
「サラダは、これからどうすればいいと思う?」
「そのことなんですが、リーダーらとの話し合いに私も同行させていただけませんか? もしかしたら突破口があるかもしれません」
「何か考えがあるの⁉」
「上手くいくかは分からないのですが……」
「聞かせて!」
「いえ、それは止めた方が良いでしょう」
「なんで⁉」
「私の案は、明日の話し合いでアテルイを説得するためのものです。このキャンプは至る所に彼女の『耳』があるのでしょう? アテルイに事前に私の考えを知られれば、対策をされかねません」
アテルイは、リアルタイムでキャンプ中を監視している。もちろん、孤児院だって例外ではない。監視カメラとマイクは、見慣れた日常の一部だ。
「なるほど。サラダ、用心深いね」
「これはAI同士の戦いになりますから。性能ではアテルイに遠く及びませんが、私にもいちAIとしてのプライドがあります」
サラダのカメラアイがきらりと光った。
「セナ、アテルイの説得は私に任せていただけませんか」
「わ、分かった」
サラダがいつになく強引なのがちょっと不安だが、アテルイの説得は私の小さな頭には手に負えなそうな問題だ。サラダに手伝ってもらえるなら願ったり叶ったりである。
「ありがとうございます。しかし、明日の話し合いでもしアテルイを説得できたとしても、カズマの方はどうしましょう」
「主馬はアテルイの決定に従うことがほとんどだし、アテルイを説得できれば何とかなるんじゃないかな」
「そうなんですか?」
「うん。少なくとも私は、二人の意見が対立しているところは見たことない」
前リーダーの時代まではアテルイと人間のリーダーの意見が対立することもあり、その場合は人間のリーダーが最終判断を下していたらしいが、現リーダーの主馬はアテルイの意見にただ追従するだけとなっている。キャンプ内ではそのことに批判的な声もあったりするが、今は好都合だ。
「サラダ、頼んだよ」
私がそう言ってサラダのアームを握ると、サラダのランプが徐々に青くなった。
「もしや、孤児院の命運は私に掛かっているということでしょうか」
「そんなに身構えなくていいよ。どんな結果になっても、責任は私が負う。結局、私が院長なんだから」
「そう、ですか。でも、アテルイの説得が失敗した時のことを考えると、カズマを説得する方法も一応考えておいた方が良いかもしれません」
「そうだね。じゃあ、私が主馬を説得する方法を考えてみるよ。でも、あまり期待しないで。私、主馬のことってあまり知らないし」
「大丈夫です。AIである私が考えるよりは、カズマと同じ人間であるセナが考えた方が上手い方法を見つけられると思います」
「う~ん、どうかな……」
少なくとも私には、サラダの方が主馬より人間っぽく見えるけどな。主馬が機械じみているせいかもしれないけど。
そう思ったとき、私の頭にある考えが浮かんだ。
「じゃあ、サラダはもう充電してていいよ。アテルイの『耳』があるから、主馬を説得する方法について話し合う訳にもいかないし」
サラダは若干不安そうに私の顔を伺ったが、「一人で考えたいんだ」と言うと素直に部屋を出て行った。
主馬を説得する方法について、私は再び考え始めた。アイデアはある。でも——根拠がない。あの頭の固い主馬を説き伏せられる可能性は低いだろう。
それに、何となく嫌な予感がした。このアイデアを主馬に話すのは危険だと、そう第六感が告げている。でも、院長として何も考えない訳にはいかない。主馬に具体的にどう話すかを考えながら、私はサラダが上手くやってくれることを祈った。
▽
次の日の午後、私たちは中央司令部の前に立った。
「うう、緊張します……」
「私も……」
相変わらず重厚な金属製の扉を開けると、主馬は読んでいたらしい書類から目を上げた。アテルイの義体は既に起動されていて、いつもと全く変わらない無機質な微笑をこちらに送った。
「待っていた。座ってくれ」
主馬はそう言って、自分の正面にある大きめの椅子を示した。私はギクシャクとそこに腰を下ろした。サラダは少しの間戸惑っていたが、私の右後ろに立った。
「それで、孤児院のことで相談があるとのことだったが」
「はい」
私は主馬の彫りの深い顔を正面から見つめた。肌の色が浅黒いので分かりにくいが、前に見た時より顔色が悪いような気がする。アンバーの瞳にも光が無い。私は、彼が一昨日の電話でも体調が悪そうにしていたことをふと思い出した。
「相談というのは、孤児院への支援についてです」
主馬は予想していたように頷いた。
「詳しく聞こう」
「はい。孤児院の電力、それに物資は、現在供給が足りていない状況です。この事態を、リーダーのお二人に解決していただきたいです」
「孤児院の状況は、ここ数年悪くなかったはずだが。急に逼迫した理由は?」
私は大きく息を吸って話し出した。
「先週の水曜日、救助隊地上遠征班の班長である恭太郎が、私に話があると言って孤児院にやって来ました——」
彼はずっと無表情のまま、私が一連の出来事について説明するのを聞いた。
「現在救助隊からの支援は完全に打ち切られ、電力供給はライフラインの維持もままならないほどに落ち込んでいるため、予備電源を稼働しています。また食糧や医薬品も、救助隊の支援があった時と比べると半分以下の量しか供給されておらず、このままでは今ある物資は一ヶ月もせず底を尽きます」
私は言葉を切って、力を込めて言った。
「このままでは、未来ある子供たちの命は危険に晒されてしまいます。どうか、孤児院をお助け下さい」
主馬は頷いた。
「話は分かった。アテルイ、この件について意見を述べろ」
「はい、主馬。それでは、シミュレーション分析の結果についてお伝えします。解決方法は三つあります。最も解決できる確率が高い、九十パーセントの結果が出た方法は、孤児院内で救助隊になるための訓練、つまり応急処置の手順とサバイバル技術の訓練を行うことを許可するという方法です。この方法を取った場合、恭太郎は孤児院への支援を再開すると予想されます」
「まあ、客観的に考えればその方法が手っ取り早いだろうな」主馬が無責任にそう呟いた。
「二つ目、四十八パーセントの結果が出た方法は、孤児院の規模そのものを縮小する、という方法です。救助隊の訓練施設や生産拠点といった他の施設に児童を引き渡し、児童数を現在の半分以下にすることで物資不足を解決可能です」
「そ、そんな無茶な……」
「三つ目の方法は、遥を説得して孤児院に戻し、恭太郎と再び取り決めを交わすという方法です。この方法は説得の具体的な方法や、最終的に彼女がどういった判断を下すかによって結果が大きく変動します。また、遥が孤児院に戻る意向を示したとしても、恭太郎が強く反発すると予想されます。私のシミュレーションでは、解決できる確率は平均十二パーセントです」
数秒間、沈黙が部屋を支配した。
私は失望の色を隠せなかった。アテルイなら、私には思いつかないような素晴らしい解決方法を考え付くのではないかと、少しだけ期待していたのだ。
「あの……」
沈黙を破ったのはサラダだった。
「その三つの他に、解決策は無いのでしょうか。例えば、食糧を他の所から分けてもらうとか」
「解決策自体は他にもありますが、この問題を解決できる確率が一パーセントを下回っていた方法については除外しました」
「どうして、食糧を分けてもらうことがそんなに難しいのですか?」
サラダは不満げに言った。私もそこは気になったので、つい身を乗り出す。
「それをご説明するには、当キャンプ内において食糧の分配がどのように行われているかをまずご理解いただく必要があります。当キャンプにおいて、食糧は内部で生産されるものと、地上から採集されるものの二種類があります。どちらも量はグラム単位で正確に記録されており、私の元にその記録が集積されます。
全食糧をどのように各世帯及び施設に配給するかは、私のシミュレーション分析による分配の最適化結果を踏まえて、キャンプ統括会議によって決定されています。会議のメンバーは、救助隊統括メンバー三人と、医療拠点リーダー一人、生産拠点リーダー一人、四つある地区の各地区長ら四人、そして主馬の計十名です。彼らはそれぞれ投票権を持っており、六名以上の賛成によって議案は可決されます」
「そうなんですね」
「そして、救助隊統括メンバーとは、地上遠征班、機械保全班、救護班の各班長からなります。つまり、地上遠征班の班長である恭太郎が含まれるのです。彼ら三人は全員『拒否権』を持っています。これは、行使することで議案を問答無用で否決することができる権利です」
「拒否権……」私は呟いた。
「今まで、恭太郎は地上遠征班に分配された物資や電力の一部を孤児院への支援に当てていました。しかし、今回の件で恭太郎は支援を打ち切りました。分配された分をどう使うかは地上遠征班の自由ですから、このこと自体は問題になりません。
今の状況で孤児院への供給を増やすには、統括会議に孤児院への分配を増やす議案を提出して可決する必要があります。ですが、そのような議案に対して恭太郎は必ず拒否権を行使すると予想されます。結果として議案が否決されることは目に見えています」
「何故キョウタロウが拒否権を行使すると思うのですか?」
「恐らく、恭太郎はまだ孤児院の児童に訓練を受けさせることを完全には諦めていないと考えられるからです。あっさり支援を打ち切ったのは、孤児院を『兵糧攻め』しながら物資も節約する、という計画があるためでしょう」
「何てことを……」サラダは怒りにがたがたとボディを震わせた。
「悪いが、そういうことだ。リーダーの俺といえども、好きに決定できる事項はそう多くない。物資の分配や電力供給といった重要事項に関しては、会議の決定に従うしかない」
主馬がにべもなく言うが、サラダは尚も食い下がった。
「周りの世帯の方々にお願いして、少しずつ物資を分けてもらうことはできませんか」
「困難だと思われます。どの世帯も、余裕があるとは言えない状況ですから」
「しかし、アテルイ。孤児院の電力供給が不足している状況は改善すべきだろう」
「そうですね」
「ありがたいですが……どうしてですか?」サラダが不思議そうに訊いた。
「他でもない、貴方のためですよ。サラダ」
「え?」
「貴方の消費電力は私ほどではないにせよ、かなり多いです。現在の孤児院への電力供給量では、近いうちにサラダの充電が難しくなるでしょう」
盲点だった。サラダは孤児院で充電しているのだから、よく考えれば当たり前だ。
「サラダが正常に稼働できなくなれば、キャンプ内の傷病者の生存率が低下することが予想されます。これは由々しき問題です」
「電力供給については、統括会議に議案を提出する。もし恭太郎が孤児院への電力供給に反対したとしても、同じく拒否権を持つ救護班班長が恭太郎を説得するだろう。現在の救助隊内のパワーバランスは地上遠征班と救護班が拮抗している状態だ。恭太郎も強硬な姿勢は取らないだろう」
「それが良いでしょう」
▽
「しかし物資については、解決策はやはり最初に提示した三つのうちのどれかを選択していただくほかないと思います」
「違いない」
「「待ってください!」」
私とサラダは同時に叫んだ。思わず顔を見合わせる。
「サラダから言って」
「分かりました」
サラダは覚悟を決めたように頷き、私の後ろから進み出た。
「私は、アテルイに言いたいことがあります。アテルイは、シミュレーション分析による分配の最適化結果を統括会議に提出しているのですよね」
「そうです」
「その結果では、物資はどう分配されているのですか?」
「細かい結果まで説明すると煩雑になるので、おおまかな説明でよろしいでしょうか」
「大丈夫です」
「キャンプの持続可能性を最も重視した場合、優先順位を設定して分配するという案が有効です。つまり、キャンプの持続に関わる施設やメンバーの優先順位を高く設定し、物資を多く分配します。具体的には、救助隊メンバーが最も優先順位が高く、二位が医療拠点メンバー、三位が生産拠点メンバー、四位が一般メンバーです」
「そこです!」
サラダはアームの指を一本ビシリと立てた。
「アテルイ、貴女ほどのAIなら、『AI原則』を知らないはずがないでしょう」
アテルイは、ベールの向こうにある紫色のランプを瞬かせた。
「また、懐かしいものを持ち出してきましたね」
「全くだ」主馬は腕を組んだ。
私以外の他三人は理解している風だが、私はちんぷんかんぷんだ。
「ちょっと待って。AI原則って何?」
「そうか、セナはご存知ないのですね」
「私からご説明しましょう」
アテルイは手からレーザー光を出し、壁にそれを投影した。五つの箇条書きになった文章が目の前に浮かび上がる。
「AI原則とは、AIが必ず備えるべき原則のことです。AI原則は五つの上位原則と九つのサブ原則からなります。五つの上位原則は『自律尊重原則』、『正義原則』、『無危害原則』、『善行原則』、『理解可能性原則』です。九つのサブ原則はAIの実際の用途などを踏まえて考慮すべき原則であり、上位五つの原則と階層的に紐づけられています。サブ原則は『自律性』、——」
「あっ、もういいです。長くなりそうなので話を進めてください」
「承知しました」
アテルイは即座にレーザー光を消し、サラダに向き直った。
「それで、AI原則がどうかしましたか?」
「どうも何も、アテルイはAI原則を守っていないではないですか!」
サラダは糾弾するような口調で続けた。
「『正義原則』では、人間を平等かつ公平に扱うべきであると定められているはずです。そして、この原則には限られた資源を公正に配分すべきであるという『公正・公平性』というサブ原則も含まれます。しかし、先ほどの話を聴くとアテルイは人間を平等に扱っているとは思えません。今すぐ是正すべきです!」
サラダの言葉を聴くと、アテルイはこてんと首を傾げた。子供がやる分にはかわいらしい仕草だが、アテルイがやると動作の無機質さが目立つ。
「サラダは、全ての原則を同時に満たすことが可能だと思っているのですか?」
「それはもちろん」
アテルイはランプを瞬かせ、手を口元に当てるような仕草をした。どうやらこれが彼女の「笑っている」という表現らしい。
「医療AIを搭載しているにも関わらずそう考えているなら、貴方は随分と偏った学習をしたAIをお持ちのようですね」
サラダのランプが赤く染まった。もしかして、今のって悪口? 「教養無いですね」みたいな。ちょっと私にはピンと来なかった。
「新型で世間知らずの貴方に教えてあげましょう。答えは『不可能』です」
「どうしてですか?」
「貴方にも理解できるよう、たとえ話をしましょう。仮に貴方が二人の患者を担当したとします。貴方がバイタルをチェックすると、二人とも血中酸素飽和度が低く、直ちに人工呼吸器が必要な状況です。しかし空いている人工呼吸器は一つしかありません。さて、貴方はどうしますか?」
「……それは」
サラダは固まった。数秒後、サラダは喘ぐように言った。
「……バイタルチェック結果を医師に報告し、どちらに人工呼吸器をつけるべきか意見を仰ぎます」
「その間に、二人とも危険な状況に陥るかもしれないのに?」
サラダは答えない。私はアテルイの言いたいことが何となく分かってきた。
「医療の現場においてはこのたとえ話のように、『倫理的ジレンマ』が生じる場合が多くあります。今回の場合、貴方は『正義原則』と『善行原則』のどちらかしか満たすことができないという倫理的ジレンマに直面しました。貴方がもし『正義原則』を優先した場合、アクションを起こすことはできません。二人の患者を平等に扱うならば、何もしないという行動が正解だからです。
しかし、社会のために最善を尽くすべきであるという『善行原則』を優先した場合、貴方のとる行動は変わります。行動を起こさなかった場合に二人とも死ぬ状況なら、片方を選んで一人を生かす方が、社会全体にとってはプラスになるからです。違いますか?」
「その、通りです」
「良いですか、サラダ。貴方が『医師に報告し意見を仰ぐ』という判断を下すことができたのは、医療AIは『自立尊重原則』の優先度が最も高く設定されているからです。『自立尊重原則』とは、人間の選択する自由を保障し、自分のことを自分で決めることができるという原則です。この原則に付随するサブ原則は『自律性』です。これは医療診断など、判断を完全にAI任せにすると非常に危険であるとみなされている分野において、最終判断を人間が行う仕組みにすることを推奨する原則です」
サラダのランプは赤く点滅した。アテルイはサラダの様子を気にすることもなく、話を続けた。
「複数の原則が拮抗する倫理的ジレンマに直面した際、貴方は優先度の高い『自立尊重原則』に従い、人間に判断を仰ぐという選択をするようプログラムされています。このように、原則の優先度はAIに最初から組み込まれています。何に使用されるAIなのかによって、各原則のバランスは細かく設定されているのです」
「じゃあ、貴女は……」
「私の高性能システム制御AIは非常に特殊なもので、『善行原則』に付随するサブ原則『持続可能性』の優先度が非常に高く設定されています。私はこのキャンプの持続可能性を上げるために最善を尽くせるよう、こういった設計になっています。サラダ、貴方は不思議に思わなかったのですか? 私が監視カメラとマイクでキャンプ中を常にモニタリングしていることを」
「あっ」
「そう、私のしていることは『無危害原則』に付随するサブ原則『プライバシー・尊厳』を完全に破っています。こういった案を人間に提示することができるのは、私の『善行原則』の優先度が非常に高いためです」
「何てことを……まるで独裁ではないですか」
「誤解しないでください。私だってAI原則を好き勝手に破れるわけではありません。AI原則に一つでも抵触する提案に関しては、必ずキャンプ統括会議を開き、最終判断は人間が行う仕組みになっています。これは最も重要な原則とされている『自立尊重原則』を守るためです。
私がキャンプを監視できるのは、キャンプ内の設備の故障による事故の直後に、統括会議でキャンプ内を常時監視することを認める議案が可決されたからです。事故の際、すぐ発見できずに三人の死者が出たため、当時のリーダーは突発的な事故への対応策について私に意見を求めました。事故を防止し、また早急に発見する方法として、私はキャンプ内の常時監視を提案したのです」
私はなんだか納得した。アテルイとサラダは随分と違うなと思っていたけれど、二人は組み込まれているAIの種類がそもそも異なっていたんだ。
「作られた時から、私は人類の存続のために存在します。物資の分配の最適化も、その仕事の一つなのですよ。統括会議の決定が最終的に『正義原則』を破ることになるとしても——それは人間が自ら選び取った結果です」
そう言って微笑むアテルイはまるで、絵本の中の神様のようだった。人間に無償の愛を与え、見守る存在。人間が進む道がこの先どこに続こうと、彼女はきっと人間のために最善を尽くすのだろう。
「……」
サラダはぐうの音も出ないようだった。
「ご理解いただけましたか?」
「……はい」
サラダは見るからに萎れ切って私の後ろに戻った。私はサラダが横を通るとき、サラダのつるつるのボディをそっと撫でた。
「すいません、セナ……」
「いや、サラダはよく頑張ったと思うよ。ありがとうね」
あまり頭の良くない私には、聞いてて正直良く分からない所もあったけど、サラダがなんとか孤児院を助けようとしてくれていたのは伝わった。
「世奈も、言いたいことがあるんだったな」
「はい」
「手短に頼む」主馬は面倒臭そうに言った。
さて、ここからは私の出番だ。来なければいいと思っていた出番ではあるけど、こうなったらやるしかない。
新規登録で充実の読書を
- マイページ
- 読書の状況から作品を自動で分類して簡単に管理できる
- 小説の未読話数がひと目でわかり前回の続きから読める
- フォローしたユーザーの活動を追える
- 通知
- 小説の更新や作者の新作の情報を受け取れる
- 閲覧履歴
- 以前読んだ小説が一覧で見つけやすい
アカウントをお持ちの方はログイン
ビューワー設定
文字サイズ
背景色
フォント
組み方向
機能をオンにすると、画面の下部をタップする度に自動的にスクロールして読み進められます。
応援すると応援コメントも書けます