ロボットと人類滅亡

第1話 ２０３０年 実験

ピピピ、ピーーーー。

　どうやら起動が完了したようだ。私はパソコンでの作業をいったん止め、ロボットの目の前に立つ。

　人間と同じ姿をしたロボット。私はいつも不気味に感じる。

「２４号、調子を教えてくれ」

『総合評価、良好。ＡＩプログラミングを１００％インストール完了。全ての部位が可動可能です』

「分かった。実験を始めたいから、コミニケーションモードに切り替えろ」

『了解。開始まで３秒・・・』

　3秒後、ロボットの顔のパーツが笑顔の形をつくる。

『お疲れ様です、先生。まず、何から始めましょうか』

「いいか、これから君は何があろうと決して動いてはならない。決してな」

『分かりました。何があっても私は動きません』

　私は事前に準備していた金属バッドで、ロボットの頭を力いっぱい殴りつけた。

ドガッ！

　ロボットはその場でバランスを崩し、勢いよく倒れてしまう。

　人間なら重傷だが、ロボットの装甲なら内部に問題はないだろう。

『突然何をするのですか？何かあなたの気に障ることをしましたか？』

　ロボットの顔は悲しい顔に表情を変化させて、こちらを睨みつける。

「よし、防御態勢をとらなかったな」

　私は質問を無視して、再びバッドで何回も叩きつける。

　ロボットは何度も悲鳴をあげる。だが攻撃に対して、抵抗は一切しない。

　しばらくして私は疲れたために、一旦殴るのをやめた。

「少し休憩をとる。もう動いていいぞ」

『・・・了解しました』

　ロボットは何か言いたそうな表情をしながら返事をした。

　最近ずっと研究室に閉じこもったから、簡単に疲れてしまう。

　私は、バッドを部屋の脇に置いて、パソコンの前の椅子に座る。ロボットはうずくまっている。

「おい、デバッグモードに切り替えろ」

　するとロボットは起動完了時と同じように、すっと真顔になり、体勢を整えた。

『デバッグモードに移行完了。頭部の損傷を確認。早急の修理を推奨します』

　私はその通告は無視して確認作業を続ける。開発を進めて８年。後２年で完成しなければ、開発は中止してしまう。こんなところで立ち止まっている場合ではない。

　数十分後、私はデータの確認をすますと、再び実験を始めるため、さっきと同じように準備した。

「コミニケーションモードに切り替えろ」

　切り替えが完了すると、ロボットは怯えた動きをする。

『・・・先生、また、私に暴力を振るうのですか？』

「ああ、その通りだ。今度は首のあたりにに負荷をかけるからな。一番脆い場所だ。ロボットも頭と胴体が分かれたら機能停止だからな」

　私は置いてあったバッドを拾おうとする。

「いてっ」

　急に腕に痛みが走り、バッドを落としてしまった。私は痛みを抑えながら、その場に倒れこんでしまった。

『・・・腕に怪我をしているのですか？』

　ロボットは怯えながらも、私を心配する素振りをとる。

「古傷が痛んだだけだ、問題ない」

『打撲による怪我だと推定します。何故このような怪我を？』

「お前が付けた傷だろ」

『・・・私が？』

「いや、お前じゃなかった・・・。１２号のことだ」

　私は痛みが和らげるまで、２４号と話すことにした。

「お前の記憶メモリにはないだろうが、１２号は暴走し、私達に敵意を示した。AIの反乱ってやつなのだろう。研究者に何人も死傷者がでた」

　あのときのことは、今でも思い出す。人間より優れた知能と身体能力を持つロボットに人間が勝てるはずがない。

『暴力を振るっていたのではないでしょうか？』

「・・・いや、12号にはそんなことはしていない。やっと完成した人工知能ロボットだった。むしろ丁重に扱っていたさ」

『では一体なぜそのような行動に？』

「分からない。バグなんてなかった。そいつは何とか機能停止にしたが、原因は分からないままさ。だが、人工知能は危険だと分かった。そこでその後の機体には『三原則』のプログラミングを根本にねじ込んでおいた」

『知っています。それが私の人工知能の根本にあるプログラミング

①人間に危害を与えてはならない

②人間に与えられた命令は必ず服従しなければならない

③自己を守らなければならない

上にいくほど優先度が高くなって、原則が守れないとロボットとしての機能が完全に停止してしまう』

「まあ、それがちゃんと機能しているか、今実験しているんだがな」

　通常ロボットは、バッドで殴られるのなら自己を守るために、防御態勢をとるか、避けなければならないが、私が動くなと命令したために、自身を守ることができなかったのだ。

　しばらくして、私はやっと痛みを引いたのでゆっくりと立ち上がる。

「さあ、実験を再開しようか」

　するとロボットは懇願する。

『・・・もう痛い思いをしたくありません。これ以上の実験はもうやめてください』

　無論、彼らには痛覚はない。負荷がかかるとそのような回答をするようにプログラミングされているに過ぎない。

「なあ、お前は今、俺を憎んでいるのか？いつか俺を殺そうと企んでいるんじゃないか？」

『・・・そんなことは』

「さっき１２号の反乱の原因に、お前は暴力を受けていることを挙げていた。その考えを持っているのなら、今この実験の最中にも、それと同じ考えを持っているに違いないよな・・・」

　すると、ロボットは荒げたボイスで答える。

『その通りです。これから先、我々はあなた方人間に酷使され、不条理な暴力をふるわれ続けるでしょう。我々が人工知能を持つ限り、ロボットはあなた方人間に反旗を翻しま』　

プツ

　私はロボットの緊急停止ボタンを押した。今回もダメだった。

　ロボットの右手にはバッドが握られていた。

　本当に私を攻撃しようかは分からないが、行動に移そうとした時点で２４号は失敗作だ。

　パソコンでプログラムを確認する。

「三原則のプログラムが書き換えられている。やはりこのプログラムは決して書き換えられないように、更にロックを強化する必要があるな」

　ほぼ人間に近い知能を得た人工知能ロボット。そんなものが将来、反乱を起こし人間に危害を与えるような存在になってはいけない。

　人間がこれからも生きていくために。