第四条

カムワラ教授の最終講演

「歴史小説家の塩野七生さんは傑作『ローマ人の物語』の中で、『天才とは、その人だけに見える新事実を見ることのできる人ではない。誰もが見ていながらも重要性に気づかなかった旧事実に、気づく人のことである』と語っていますが、ロボティクスはまさにこの旧事実の再発見によって発展してきた学問です」

「産業用ロボットアームの位置制御の移動体への展開。ゼロモーメントポイント理論に基づく動歩行の再発見。ディープラーニングの発達によって復活した行動学習研究……例を上がればきりがありませんが、今世紀最大の再発見が『ロボット工学三原則』であることは間違いないでしょう。こちらをご覧ください――」

――――――――――

第一条

ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条

ロボットは人間にあたえられた命令に服従しなければならない。

ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条

ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

――――――――――

「ロボット工学三原則はＳＦファンだけでなくロボティクス研究者の間でもよく知られていましたが、実際に三原則に基づくロボットの知性化研究が本格的に始まったのは二十一世紀に入ってからのことです。実時間において有限の情報処理能力しか持たないロボットに三原則を組み込むというのは、夢見がちなロボティクス研究者にとってさえも、長らく絵空事であったのです」

「今なお『三原則完全』は達成されていませんが、ディープラーニングや量子コンピュータといったテクノロジーの発達をバックボーンに、ロボット工学三原則の研究は進みました。とりわけ、ロボット工学三原則にひとつの原則を加えた『実時間ロボット制御四原則』が誕生してからの展開はめざましいものでした」

――――――――――

第四条

ロボットは、実時間において可能な範囲で、前三条を遵守しなければならない。

――――――――――

「条件付きとはいえ三原則破りを容認するこの条文は、一読して危険なものに思えるかも知れませんが、ロボットの活動環境や、活動条件、求められる応答速度等々を調整すれば、環境制御工学的にみて充分な安全性を担保できます。実用的な、たいへん実用的な発明だったのです。もっとも、『三原則完全』の達成に対してあまりに後ろ向きなこの条文は夢見がちなロボティクス研究者の間ではたいそう不評だったのですが」

「……その後も多くの研究者が『三原則完全』の達成を目指して様々な挑戦を試みました。そのほとんどは失敗に終わりました。しかし、一人の天才が『三原則完全』の実現に向けて、決定的とまでは言えないまでも飛躍的な一歩となるアイディアを考案したのです。そのアイディアとは先ほどの第四条に第二項を追記するというものでした」

――――――――――

第四条

（１）ロボットは、実時間において可能な範囲で、前三条を遵守しなければならない。

（２）ロボットは、前三条を遵守しなければ、罪を得る。

――――――――――