善なる罪

第6話 ドーナツと人工知能の犯罪パターン

　　　　　　◆

　川端が裁判所からスーパーに寄って帰宅したときには、夕日が一面を染めていた。

　しかし、部屋に入ってみると明かりが灯り、夕日の朱色は全くなくなっていた。来客の存在に嘆息しつつスリッパに履き替えてリビングに入ると、ソファに横になって鶴見がタブレットを眺めているのが見えた。

「自分の家みたいに寛ぐなよ」

　タブレットからちらりと視線を部屋の主に向けた鶴見が、起き上がるでもなく寝そべったまま、言葉を返す。

「六畳間だと、なかなか手足も伸ばせないもんですよ。学生時代のことを忘れちゃったんですか？」

「あまり思い出す機会もないし、思い出したくもないな。それは、ドーナツか？」

　ローテーブルの上にはチェーン店のドーナツショップの箱が二つ、置かれていた。鶴見は、そうですよ、と言いながら、転がるようにして一度ソファから降りると床の上であぐらをかいた。

「それで、立件審査はどうでしたか？　今日でしたよね」

　まあな、と答えてから川端は一度、手に提げていたエコバッグをキッチンに持っていき、食料品をそれぞれに保管する場所へ移していく。

「鶴見、ビールでも飲むか？」

　買ってきたばかりの缶ビールを冷蔵庫に入れながら確認すると、遠慮します、と返事がある。

「なんだ、飲まないのか」

「今日は夜にシフトなんですよ。さすがに酒臭い状態で仕事に行くのは、僕でも出来ませんよ」

「常識的だこと」

　自分の分の缶ビールを用意して川端がリビングへ行くと、ローテーブルにタブレットを置いて、鶴見はしきりに指を動かしていた。

「何か面白いコンテンツでもあるのか？」

「別に面白くはないですね。人工知能が関与した事件の報道をちょっと見ているだけです」

「もっとその真面目さを別のことに向ければいいのにな。リスキリングとかに」

　ソファに腰掛けてビールを開封した川端を横目に見てから、ドーナツをどうぞ、と鶴見が箱を押し出す。遠慮なく箱の一つを開けてみると、幾つもの種類のドーナツが並んでいる。フリーターには大きな出費だろうが、鶴見なりに気を使っているのだと川端は解釈し、早速一つを手に取った。

「それで、人工知能の事件を調べて、俺の手助けをしよう、ってことでいいのかな」

「そんなところです」

　川端はスーパーで買ってきてそのまま冷蔵庫へ移動した惣菜のことは一時、忘れることにして、早速ドーナツを一つ食べ終わり、次を選ぶ。

　鶴見が何を調べているにせよ、人工知能が関与する犯罪は川端の仕事では絶対にチェックしなくてはいけない対象だし、日常的に詳細に情報収集している。

　鶴見がタブレットから顔を上げないまま、話し始める。

「人工知能の犯罪は、大抵、人間にいいように使われているみたいですね」

「それはな」

　ドーナツを咀嚼しつつ、川端は一般的な認識を口にした。

「人工知能は基本的には自主的には犯罪を犯さない。大昔のSF小説的な認識が一般的な状況で発展したからな」

「なんでしたっけ。人間に害をなしてはいけない、みたいな奴ですよね」

「そう。だから例えば、人工知能にナイフをくっつけたロボットアームの操作を任せても、そのナイフが人間を切りつけることはない」

「あるとすれば、事故ですか？」

「そうなるな。ありそうなのは、ロボットアームの制御が物理的に不可能になってナイフが人間に当たる、とかだね。そうじゃなければ、人工知能が人間を人間と認識できなかった、ということになる」

　へぇ、と鶴見が視線を川端に向ける。

「人間を人間と認識できない、っていうのは、カメラに細工する、っていう意味じゃないですよね」

「それは原始的だけど、ないわけじゃない。最近の傾向だと、人工知能の認識能力に干渉するんだな。ナイフ付きのロボットアームだと複雑になるけど、別の場面では、電話詐欺の掛け子をやらされる人工知能は、相手を人間だとは認識していないわけだよ」

「そもそも人工知能は人間をどう認識しているんです？」

　容易には説明が難しい質問に、川端は手の中の二つ目のドーナツを口に押し込み、ゆっくりと噛み、ビールを飲む時間まで加えて考える時間を用意した。

　缶をテーブルに置いて、答える。

「人工知能は、人間を人間と理解する必要はないし、していない。それは例えば、テキストを読解し出力する人工知能は、自分に指示を伝えるテキストや音声を人間から発せられているかどうかを、さほど重要視しないということでもある。人工知能の至上命題は与えられた仕事をこなすことだからな」

「自動運転車は人間を認識しますよね」

「人間らしいものをセンサーで捉えているだけだし、詳細に分析しているから人間だと認識しているように見えるだけだよ。過激なことを言えば、人間そっくりの人形に、人間そっくりな動きを取らせれば、人工知能はその人形を人間と誤認する。現在の人工知能の能力が高すぎて、あまりにも分析、解析が高速かつ精確ということさ」

「でも、それじゃあ自動運転車は頻繁に失敗しちゃうんじゃないですか？　人形を人間と誤認しないとしても、人間を人形と誤認することはあるでしょう」

「ほとんどないから、問題ない、ということなんだろうな。あまりにも技術が発達しすぎてミスが起こらない以上、問題視する場面は少ないし、問題視する方が不自然な社会じゃないか」

　そうですねぇ、とタブレットから顔を上げ、鶴見もドーナツに手を伸ばした。川端は一度、ソファから立ち上がると鶴見のためにインスタントコーヒーを用意してやった。

　ローテーブルへ戻ると、あっという間に鶴見はドーナツを一つ食べ終わっていた。マグカップを手渡す川端に、どうも、と鶴見が受け取る。

「川端さんが言う通り、人工知能が人間を害さないとして、でもそれって、第一に人工知能は人間を傷つけてはいけない、っていう原則があるということですよね。どうしてそれが根本的に犯罪を抑止できないんですか？」

「抑止はできているよ。報道されたりしないだけで、人工知能が犯罪に利用されそうになり、しかし成立していない場面は多くある。子どもの時、人工知能に変な命令を出して拒否されたことがあるだろう」

「えーっと、変な命令って、いやらしい画像を表示せよ、みたいな奴ですか？　川端さん、そんなことしていたんですか？　人工知能に対するハラスメントですよ」

　人工知能相手にハラスメントがあるか、と思わず川端は呟きつつ、核心を口にした。

「人工知能は人間の命令と基本的に自身に与えられている命令が食い違うと、機能が衝突して停止してしまうんだ。もちろん、人間の命令と人間の命令が衝突するときも機能は停止する。そういうジレンマが、人工知能には起こるんだ」

「川端さんの両親が、川端さんにいやらしい画像を見せるな、と命令しているところに川端さんが、いやらしい画像を見せろ、と言ったりするとアウトですか」

「例えが最悪だが、そうだ。電話詐欺の掛け子をやらせるだけでも、相当に繊細な欺瞞をかませないと、人工知能は実行できない」

　ジレンマとは詩的ですね、と言いながら鶴見はマグカップを口元へ運ぶ。川端は構わずに三つ目のドーナツをさっさと食べ、ビールで飲みくだした。鶴見はのんびりとドーナツをかじりつつ、斜め上を見ている。そこには何もないが、考えることに集中しているのだろう。

「じゃあ、川端さんがやっている仕事は、いよいよおかしいですね。人工知能は犯罪を起こしている。つまり、その人工知能はジレンマを無視したか、回避したということですか。でもそれはありえない、っていうんですよね」

「人工知能が関与する犯罪でよくあるのは三つのパターンなんだ。まったくの誤作動か、ジレンマが意図的に誤魔化されているか、それ以外。この三パターンのどれかが大半だ」

「それ以外、ってなんですか？」

「さあな。この三パターンを提唱する奴は大勢いるけど、その他にぶつかる場面は少ない。俺が覚えている範囲では、人工知能が走らせていた自動車が事故を回避しようとして無理な運動をした結果、運転手が重傷を負った事件があった」

　鶴居は何度か瞬きをしてから、首を傾げる。

「それは誤作動じゃないですか？」

「見ようによってはな。ただ、その人工知能は運転手を守る運転をしたから誤作動ではない。運転手を守るという命題と、周囲にあるものや人を傷つけてはいけないという命題と、この二つから生じるジレンマもそのままだった。その事故は本当の事故なんだ」

「僕は犯罪の話をしているんですよ、川端さん」

「だから、それ以外は事故ということだろう。もっと複雑怪奇な展開の末に起こることもあるが、事故とも事件とも言えないことは人間同士でもたまにある。居酒屋で喧嘩になって、偶然に片方が片方を殴りつけたら死んでしまった、とか」

　ふぅん、と鶴見は興味があるのかないのか、よくわからない反応をした。

　四つ目のドーナツをさっさと片付け、一つ目の箱が空になったのを横にどけて川端は二つ目の箱を開封した。ぎっしりとドーナツが入っているが、もう鶴見の出費に関しては考えないことにした。

　一つを選んで手に取ると、早速、口にする。

　鶴見も箱に手を伸ばそうとして中断し、一度、マグカップにコーヒーを新しく用意しに行った。

　戻ってくるとドーナツを手にした鶴見が質問を再開しようとするので、川端は親切心から指摘してやった。

「夜勤のバイトがあるんじゃないのか？」

「今、何時ですか？」

　壁の掛け時計を指さすと、ああ、と鶴見が落胆するような声を漏らした。

「もう行かなくちゃいけません。終わったら戻ってきますから、その時に色々教えてください」

　おいおい、と思わず川端は声を漏らし、ドーナツが口からこぼれそうになって慌てて押さえた。

「何時間勤務だよ。俺に徹夜させる気か？」

「大丈夫ですよ。寝ててください。朝ごはんを用意しますから」

　バカな、と思ったが、川端が答える前に鶴見はコーヒーを飲み干し、立ち上がっている。

「マグカップ、片付けを任せてもいいですか？　朝ごはん、何がいいですか？」

　川端が首を左右に振るのを全く無視すると、にっこりと笑って鶴見は玄関の方へ消え、ドアが閉まる音がしたきり静かになった。

　ローテーブルの上のドーナツを眺め、手元の缶ビールを飲み干してからどうするべきか考えた。

　ビールを飲んだことを後悔していた。あまりアルコールに強くないので、このままだと眠ってしまう。

　諦めて立ち上がった川端は、玄関を施錠しに行った。

　立ち上がった時点で、一時間後には眠りこけている自分がありありと想像できたが、どうしようもなかった。