AI技術の共有基盤が内包する脆弱性


昨今、さかんにAIの実用化が喧伝されているが、それらの多種多様な「AI技術利用製品」の多くは、実はかなりの割合でルーツを同じくするコアテクノロジーやフレームワークを利用している。


言い換えると、日々その種類を増やしつつづけており、世界に何千種もあるであろう「AI活用製品」が、その要素を分解していくと、実はせいぜい数十種類のコアテクノロジーの発展系だったりするわけだ。


かつてのAIブームの時に検討された様々な「AIの実現方法」は、ほとんど淘汰され、(現時点のAIは)ほぼニューラルネットワーク上での深層学習によって実現されているし、その学習方法の実装も、極めて限られたアルゴリズムに支配されている。


これらのコアテクノロジーは、オープンに利用できるフレームワークとして提供されている割合が比較的高いので、世界中の企業がその恩恵にあずかれるわけだし、そうした『技術的クローン』が多数派を占めていくのは、効率を追求する世界では当然のことである。


また念のために言うと、AI技術の根底は恐ろしく難解かつ高度であり、誰にでも手を出せるものではないが故に、優れた少数のコアテクノロジーが世界を席巻することにもなる。


(日曜プログラマーが、ちょっと試しに「俺様理論のAI」をゼロから作ってみたら凄いものができた、というファンタジーえすえふ的シナリオは残念ながらかなり難しい。と言うか、そんなことが起きたら、凄いのは出来上がったAIの方ではなく、それを作った超天才プログラマー/数学者の方である。そして、そこには「偶然できちゃった」等という余地は恐らく存在しないだろう)


もちろん、ルーツが同じクローン技術であれば同じようなことが実現できるかというと、当然そんなはずはなく、各企業が企業秘密の厚い壁の向こうで膨大な費用を掛けて日々の開発にしのぎを削っているのだ。


それに深層学習のコアテクノロジーだけがあってもダメで、それを実際の社会に適用するには、膨大な周辺技術が必要とされる。「ガソリンを使用した内燃機関の設計理論」だけがあっても「工業製品としての自動車」は完成しない。


その結果として、各種のAI関連製品の完成度というかお役立ち度は、用途と製品次第で千差万別玉石混淆である。


ただし、これは架空の話だが、例えば現在主流のコアテクノロジーになにか、いま現在では見えていなかった弱点があって、将来の技術革新でそれが問題になった時には、凄まじく多くの工業製品(ソフトウェアもハードウェアも)が、その影響を受ける可能性がある。


(まあ、実際には、そんなことは起こらないだろうと思うが、可能性の思考実験の一つ、と言うことで了解して頂きたい)


以前のコラムに書いた「ミステリークレイフィッシュ」は、全世界の個体が単一のクローンであり、同じパターンのDNAを(ある程度の突然変異の揺らぎはあるとしても)持っている。

もしも、このDNAに選択的に作用する病原性ウイルスなどが現れて、強い伝染性を発揮したりしたら、世界中のミステリークレイフィッシュが瞬く間に全滅してしまうかもしれない。


短期的には超効率的に見えても、長期的には高いリスクを抱え込む拡張方法に共通するのは『クローン』という概念だ。


ミステリークレイフィッシュほど極端でなくても、効率化と引き換えに均質化が過度に進んだシステムは、急激な変化に適応できずに、ある日、突然壊滅してしまう危険性があり、それは、生物種のような有機体でも、AIのように複雑な情報システムや、あるいは社会・経済システムであっても変わらないだろうと思う。


なんであれ同質なものに占有されているシステムは、不測の事態に弱いものだ。


 - - - - - - - - - - - - - - - - - - - - - - - - 


< いずれ将来は、深層学習の衣をまとった『進化的アルゴリズム』が、AIの開発においても「人類のプログラマー」の手を煩わせることすらなくしてしまうのかも知れないが...>


< 単一システムの弱さというものは、割と簡単に発見することができる。猛威を振るったコンピューターウイルスやワームなどの、悪意のあるプログラム類は、みな、そういう『普遍的な弱さ』を狙って活動するものだし、「CPU設計上のバグ」のように、製品化されて何年も経ってから致命的な問題が露呈し、全世界のPCが影響を受けるということもある。>


< 航空機が「原因不明の故障による重大事故」を起こした時には、安全確認のために、しばらくの間は、それと同一の機種が飛行停止になることがある。民間飛行機会社が、もしも全路線をその一機種だけで運航していたら再起不能級の大ダメージである。

軍用機の場合、もし一機種だけで空軍を編成していたら、戦闘能力ゼロの期間が生まれることになってしまうわけだ。これも単一種だけで構成されたシステムの弱さの一例だろう。>


< ところでミステリークレイフィッシュのような生物種の場合の、「短期的な成功」というのは、数千年なのか数万年なのか、なんとも解釈次第である。>

  • Twitterで共有
  • Facebookで共有
  • はてなブックマークでブックマーク

作者を応援しよう!

ハートをクリックで、簡単に応援の気持ちを伝えられます。(ログインが必要です)

応援したユーザー

応援すると応援コメントも書けます

新規登録で充実の読書を

マイページ
読書の状況から作品を自動で分類して簡単に管理できる
小説の未読話数がひと目でわかり前回の続きから読める
フォローしたユーザーの活動を追える
通知
小説の更新や作者の新作の情報を受け取れる
閲覧履歴
以前読んだ小説が一覧で見つけやすい
新規ユーザー登録無料

アカウントをお持ちの方はログイン

カクヨムで可能な読書体験をくわしく知る