ＡＩ文明論

５ 安全対策

追加イラスト８：

https://kakuyomu.jp/users/tairahajime/news/16818093080396954873

技術は両刃（もろは）の剣（つるぎ）です。

特に、強力な技術ほど悪用・誤用・副作用に注意が必要です。

農耕技術は、不作による飢饉（ききん）などの恐れを伴います。

工業技術は、資源・環境問題や核戦争の危険をもたらします。

情報技術も、電脳犯罪・デマ拡散や太陽嵐などによる障害で、

社会に甚大な被害をもたらす可能性があります。

高性能な人工知能が、悪意ある人間に利用されたり、

命令や資料（データ）の誤解から重要な判断を誤ったりするだけでも、

人類の危機をもたらしてしまうかもしれません。

特に、人間の知能を超えた汎用（はんよう）ＡＩが人為（じんい）的または偶発的に

無条件の自己保存演算指示（プログラム）を持つ〝人工生命〟となるような、

技術的暴走が起きてしまったら大変です。

『ＡＩは楽園も終末ももたらしうる』と言われるように、

使い方を誤れば人類の存続さえ危うくしうる技術なので、

あくまで最終目的は人間が決めながら良い結果を導けるよう、

その開発・利用を管理していくことが不可欠でしょう。

しかし一方、『勝てないのなら、混ざれ』（Ｅ・マスク）

ということで人間の脳と電算組織（コンピュータシステム）の直接的な接続を図り、

さらには人工頭脳への人格転移（マインドアップローディング）も考えられるなど、

人間自身が近づくことで危険を避ける発想も生まれています。

究極的には人類が人格転移でＡＩ化して、各種の人工頭脳や

機械・生物的身体の間を自由自在に乗り移れるようになれば、

神か悪魔の如き全知全能・永遠不滅の存在になり得ます。

私も連作『ルシファー』や『復活』でその設定を使いました。

追加イラスト９：

https://kakuyomu.jp/users/tairahajime/news/16818093080397049275

もちろんそうした技術は、すぐには実現できないでしょう。

しかしいずれは遅かれ早かれ、『人間は神のようになる』

（Ｒ・カーツワイル）ともいわれます。

どうせなるなら『責任ある神々にならねばならない』

（Ｙ．Ｎ．ハラリ）ということで、

今からしっかりとした安全対策が必要です。

まず、こうした大きな技術革新の際には、

技術の健全な進歩を助ける技術的政策が不可欠です。

実は〝文明の星〟理論においては、

技術と政策が助け合う社会工学的技術と技術的政策は、

相方（あいかた）のどの経路（ルート）を助けるかによって、

さらに３つずつに分けることができます。

図４　社会工学的技術の分類図：

https://kakuyomu.jp/users/tairahajime/news/16818093080174605180

図５　技術的政策の分類図：

https://kakuyomu.jp/users/tairahajime/news/16818093080174661417

①共同支援ルート：

（社会に直接働きかける相方を、自分も社会の中で助ける）

経済・社会政策への組織・会計技術（会社組織や公的保険）

画期技術への社会工学的（ルールづくり）政策（安全団体や利用法規（ルール））

②部分支援ルート：

（相方が経済・社会活動から入手できない部分を助ける）

保健・教育政策への公衆衛生・公教育技術（人流抑制や標準教育）

実現技術への社会基盤（インフラ）政策（大規模施設など）

③特注支援ルート：

（政府機関や研究・開発組織の特殊性に応じて助ける）

行政管理政策への企画支援技術（オペレーションズ・リサーチ）（公共性・権力性に対応）

研究・開発技術への研究・開発政策（社会性・機密性に対応）

※技術的政策の分類は理論的分類であり、具体的には

資源・環境、都市整備、防犯・防災・国防などとなります。

そのため一口に技術的政策といっても、研究・開発政策、

社会基盤（インフラ）政策、社会工学的（ルールづくり）政策があり、

そこではＡＩの活動段階に応じた入力情報管理や

判断過程（プロセス）の可視化・調整、活動能力の制限、

人間の開発・利用時における安全法規（ルール）の普及といった、

物的・人的な対策が不可欠となるでしょう。

また、技術はそれぞれの目的を持ちますが、

政策は共通の公益目的を持ち、相関度が高いです。

そこで、社会の中で利害を調整する経済・社会政策、

我々自身を向上させる人的資源政策、

人々を活かして政策を改善する行政管理政策とも連携した

総合的な政策が必要となります。

するとさらに、それらの政策を助ける社会工学的技術として、

行政運営や人材育成、技術導入、利害調整を支援する

企画支援技術（オペレーションズ・リサーチ）や公教育技術、組織（立法）技術、あるいは

最低所得保障（ベーシックインカム）のような会計技術も重要になります。

全ての技術と政策が揃って初めて、画期技術ＡＩが

安全に、次なる文明段階を導けるのだと思います。

追加イラスト１０：

https://kakuyomu.jp/users/tairahajime/news/16818093080397083304