『未来:人類の征途』を読んでいたとき、超高度AIは人類文明の存続を最高の目標とする指令を受けたというエピソードがありました。そこで超高度AIは、各国の核武庫をまず統制し、ロックをかけ、核戦の脅威を取り除くことにした、人間の軍隊の代わりに、絶対服従ルールのロボット軍隊を使う。
服従のルールも簡単だ——「自ら人を傷つける行為は一切禁じる」。
後に主人公は「暴力ではいけない、それは多くの紛争が永遠に解決できないのではないか?」
しかし、超高度AIは、「紛争解決には法律が必要だ。暴力も喧嘩も役に立たないことに気づいたとき、人間はより良い矛盾を解決する方法を見つける。人類が戦争や虐殺をしあったのは、それが本当に役に立ったからだ。戦争は賭博のようなもので、時には得るものは払うものより多く、人間はすべてに負けるまで疲れることはない」
この言葉は私に深い印象を与えた。