概要
機械が決める。人間が承認する。そして事故の責任は、人間が取る。
西暦2041年、日本から「機械のミス」という言葉がなくなった。
交通網はAIによって完全自動化され、異常を発見する機械、その機械を診断する機械、さらにそれを監視・監査する機械まで存在する。
人間に残された仕事は、ただ一つ。
「最終判断」。
ある日、列車の制動装置に異常警告が出る。
診断AIは「センサーの故障」と判定。
監視AIも正常。
監査AIも正常。
すべての機械が「運行継続」を推奨した。
人間の最終判断員は、それを承認する。
そして、事故が起きた。
「しかし最終判断をしたのはあなたです」
機械が判断し、人間が承認し、人間が責任を取る。
完全自動化社会に最後まで人間を残しておく、本当の理由とは。
交通網はAIによって完全自動化され、異常を発見する機械、その機械を診断する機械、さらにそれを監視・監査する機械まで存在する。
人間に残された仕事は、ただ一つ。
「最終判断」。
ある日、列車の制動装置に異常警告が出る。
診断AIは「センサーの故障」と判定。
監視AIも正常。
監査AIも正常。
すべての機械が「運行継続」を推奨した。
人間の最終判断員は、それを承認する。
そして、事故が起きた。
「しかし最終判断をしたのはあなたです」
機械が判断し、人間が承認し、人間が責任を取る。
完全自動化社会に最後まで人間を残しておく、本当の理由とは。
おすすめレビュー
新着おすすめレビュー
- ★★★ Excellent!!!承認ボタンだけの職に、事故の責任が来る
面白かったのは、判断しているようで、署名しているだけだと分かっていく過程です。2041年、交通はミチビキが回し、異常はドクターが診断し、その診断はミハリが見て、整合はテンビンが監査する。人間の最終判断員に残る仕事は、推奨されたボタンを押すことだけです。制動力低下の警告が出ても、各AIは「正常、運行継続」で揃う。止めて外れれば不合理な停止として説明を求められ、押して事故が起きれば「最終判断はあなた」と返される。どちらに転んでも人が残る、という構図がはっきりしていました。
良かったのは、会議室の反復です。「しかし最終判断をしたのはあなたです」が、根拠を述べるたびに同じ文で返ってくる。研修は三時…続きを読む