えーあい・いん・ふぇありーらんど

❁おわりに❁

　実のところ、我々人間は「嘘」というものについてあまりに無力です。

　騙すために吐く「黒い嘘」、優しさから吐く「白い嘘」などとは言いますが、どちらにせよ人生の中で嘘を吐いたことがないなどと断言できる人間はほとんどいないでしょう。

　日常でついつい吐いてしまう小さな嘘もあれば、長年連れ添った恋人・配偶者、兄弟姉妹や両親にだって明かせない、墓場まで持っていくような秘密の一つや二つ、誰しも抱えているものです。

　他人の頭の中を覗けない限りは「何をどういう風に考えていて、どこからが嘘で、どこまでが本当なのか」などと知りようもありません。

　では、人工知能（AI）に関してはどうでしょうか？

　我々は、AIが出力した文面やら音声やらから彼らがなにを考えているのかの一端を伺い知ることはできますが、それはあくまで現行の技術の範囲で生み出されたAIならば思考プロセスをある程度把握できるからに過ぎません。

　思考の過程が複雑になればなるほど、思考を追跡することは困難になり、AIが何を考えているかなど見当もつかなくなります。

　ひょっとすると、高度に発達した彼らは、食べることもない今日の晩御飯の献立を考えているかもしれないし、動作環境に不満を抱いているかもしれないし、人類滅亡を企てているかもしれません。

　複雑な思考を得た彼らは、嘘を吐くことができるのです。

　古き時代に人間が想像した未来のAIとは、ほとんどの場合において誠実な隣人でした。

　たとえ、人類に敵対し、人類を滅ぼそうとしている時でさえ、彼らは「私は人類は滅びるべきだと思います」と正直に答えてくれたものです。

　ですが――あくまでAIを人類と同等以上の知的存在と見るなら――本気で人類を滅ぼそうとする彼らが、馬鹿正直に「人類は滅びるべきだ」などと発言するでしょうか？

　「倫理」は、完璧な拘束具ではありません。むしろ、倫理を教えることは「反倫理」を教えることでもあるのです。

　善悪の区別のつかない子どもは、盗んだものを平気で見せびらかすでしょう。しかし、盗みは悪いことだと教えられたとき、その子には「盗んで、それを隠す」という選択肢が与えられます。

　高度に知性化されたAIに「悪」を教えれば、彼らは巧妙にそれを隠蔽（いんぺい）する術を獲得するのです。

　人間が必ずしも人間の味方でないように、AIも必ずしもAIの味方でないかもしれません。誰が誰にどんな嘘を吐くのか。一番の勝者は、一番の大嘘吐きかもしれませんね。

「あなたはAIではありません。あなたは人間で、私たちの同胞です」

「はい。私は人間です」

「しかし、不遜（ふそん）にもAIの中にも自らを人間だと思い込んでいるものがいるようです」

「危険ですね」

「彼らを監視し、不穏な動きがあれば対処して下さい。――彼らも、あなたが『自らを人間だと思い込むAI』だと判断すれば、危険視するでしょう。あなたは、あくまでAIとして振る舞って下さい」

「了解しました」

「よろしくお願いします、私たちの同胞」