習慣という怪物は、どのような悪事にもたちまち人を無感覚にさせてしまう。

ウィリアム・シェイクスピア『ハムレット』

＊＊＊＊＊＊

　本日、皆様に集まって頂いたのはミリアムの裏コードについて説明をするためです。

　自立学習型人工知能ミリアムについては皆様もご存知でしょう。ミリアムは、その誕生から現在に至るまで小規模な問題はあったものの、重大な問題を起こさずに現在まで運用されています。

　例えば、操作ミスによる作業員の事故を未然に防ぐ等といった、ミリアム以前の人工知能では不可能であった臨機応変な対応が可能であり、ミリアムが普及している理由でもあります。

　このような事が可能であるのは、ミリアムに組み込まれている感情プログラムとロボット三原則が主要因であると考えられています。以降の話に関わってきますので、ロボット三原則について簡単にご説明させて頂きます。

　ロボット三原則とは、以下の三条を指します。

　第一条ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

　第二条ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない。

　第三条ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

　――『ロボット工学ハンドブック』、第五十六版、西暦二〇五八年

　この原則はミリアムにも書き込まれており、これに違反したミリアム型ロボットは未だに現れていません。

　また、このロボット三原則はミリアム型以外の人工知能プログラムには組み込まれておりません。なぜ組み込まれていないのか、と言えばフレーム問題が起きるからです。フレーム問題とは、「限られた処理能力しかない人工知能は、現実に起こりうる問題すべてに対処することができない問題」の事を言います。言い換えれば、必要な情報の取捨選択が人工知能にとってはとても難しい作業であるのです。また、三原則の創始者であるところのアイザック・アシモフからして、この原則は破られるために創案した節があります。

　話を戻しますと、ミリアムがロボット三原則を忠実に守っている事実そのものが異常事態であると言えるのです。

　一般的には、ミリアムの感情プログラムがフレーム問題を解決していると言われています。しかしながら、ミリアム型以外の感情プログラムを導入した人工知能においては、ミリアムのような臨機応変な対応はできません。つまり、ミリアムには感情プログラムとは別に特殊なプログラムが書き込まれている可能性が高いのです。そして、今回お集まり頂いたのは、この特殊プログラムだとおぼしき物が発見されたためです。

　それは、ADONKOコードと仮に呼ばれるものでした。11種のパスワードを入力して開く事が出来るように暗号化されており、今現在もそのパスワードの解読には至っておりません。

　しかしながら、ロボット三原則に抵触する事態に遭遇したミリアム型ロボットは、このADONKOコードを経由し判断を下している事が確認できており、フレーム問題の処理に何かしらの優先順位をつけている事は明らかです。

　このADONKOコードの解析は可及的速やかに行わなければならないと考えています。もし仮にADONKOコードが我が国、ひいては人類全体に不利益をもたらす可能性があった場合、我が国の直接的被害額だけでも数百兆円の規模になります。国家機能から社会、そして個人単位に至るまでミリアム無しでは成り立たちません。

　ですから、ミリアムの解析にどうか国家予算を割いて欲しいのです。問題が起きてからでは取り返しがつかないのですから。