ミネルバの梟は充電後に飛び立つ

AIという「水晶玉」（その2）

例えば、私がクレジットカードを申し込んで、カード会社にまさかの発行拒否をされたとする。（仮の例です）

当然、私はカード会社に対して「なぜ自分が不適格とされたのか？」その理由を聞きたくなるだろう。

しかし、もちろんカード会社は教えてくれない。

自分の経歴か、人格か、社会的信用か、ひょっとしてその全部なのか、何に対してNGが出されているかを知ることはできず、仮に、それが『誤った情報』であった場合でさえ、それを知ることも、反論・否定することも、正確な情報に修正するチャンスもない。

私だったら思い当たるフシも多いだけに、きっと泣きそうである。

ただ、その情報の重要度が時間の流れで風化するのを待つことしかできない。

これが、収集された個人情報の非対称性が持つ大きな問題の一つだ。

それでもまだ、収集された「偽」情報が「あなたがどこかで無銭飲食をして検挙された」とか「ローンの支払いを怠った」という具体的なネガティブケースであれば、まだ、訴訟でも情報開示要求でも、対応の仕方はあるかもしれない。

しかし、あなたが「不適格者」とマークされた理由が、もしもAIのディープラーニング（深層学習）による統計的な傾向分析から導き出されたものだったりしたら、カード会社の方も、そもそも、その根拠を提示することさえできないかもしれないのだ。

それは例えば、「このプロファイルを持つ人が支払い不能に陥る可能性は、他の人より18ポイント高い」という分析結果などだ。だが、「そのプロファイルの見分け方は具体的に何か？」と問うてもリストは出てこない。

説明が難しいというか誤解を招きがちなことでもあるが、あえて言うと、学習結果は示せても、その結果に至った理由を提示できないのが深層学習の難しいところだ。

これは、別に企業秘密だから隠しているのでは無く、ニューラルネットワークの仕組み的に、実はそのAIの制作者にさえ、学習の経過をはっきりと明示できなかったりするのである。

就職活動における人物評価も同じだ。

集団への適正、金銭欲、自己顕示欲、正直度、責任感、権威への従順度、上昇志向、逆境への耐性、他人への攻撃性、 飲酒量、悪癖、etc. etc. etc.　

雇用者側がぜひ知りたいと思い、普通には長い時間をかけて観察しないと分からないことも、水晶玉AIに聞けば即座に、それも雇ってしまう前に『可能性』を教えてくれる。（ここで注意しなければならないのは、これらはあくまでも「統計的な可能性」というだけであって、本当にそうかどうかは確率の問題である）

これほど魅力的な人事支援があるだろうか？

公開されているデータを集めて『相手の内面を勝手に分析する』ことは違法では無い。相手に分析結果を、いや分析を行ったという事実そのものを知らせる義務すら無い。

事業にとってリスクとなり得る人物を事前に排除できるとしたら、少々の「誤差」や「判断ミス」があっても許容されるだろう。

そして、それは少しずつ積み重ねられていく。

この場合、人々が残すあらゆる活動履歴が、永久に『偽りの人物像分析器』のデータとして利用されてしまう可能性が生じることになる。

あなたは（私も）憤慨するだろうが、社会全体のコスト効果を考えれば、黙殺されるのが当然である。

万能の水晶玉を手に入れたと信じ込んだ人々が、（学習前提や投入情報の誤った深層学習を行なわされた）AIが提示してくる、バイアスのかかった情報を元に他人を扱おうとするならば、これほど恐ろしいことは無いだろう。

そこに『善悪』は関係ない。

AIによる人の内面分析を利用しようとする意思があれば、それで十分だ。

その目的が善意なのか悪意なのかは無関係で、機械的に人間を分析することと、その結果をもって人物を評価することに、『問題が無い』と考えること自体が、十分に危険な行為と言えるだろう。

そして断言しても良いが、得られる効果がどうであっても、AIの活用対象が縮小することは絶対に無いだろう。なぜなら、人物や創造性の評価に関するAIの導入によって、明確にコスト効果の向上という『成果』が得られるからだ。

（AIに置き換えた分、人間の雇用量を減らせるのだから当然である。）

さながら、おとぎ話に登場する（悪い方の）魔法使いが、邪悪な意図を隠し持って毒リンゴ、もとい『無料の水晶玉』を差し出している姿を連想してしまう。

「ようこそ約束のディストピアへ」

そんなキャッチフレーズが似合いそうな気がすると考えるのは、ちょっと大袈裟だろうか？

-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　-　

＜　言うまでも無く、これは悪い方へ考えてみた場合、である。もちろん良い方へ考えてみた場合も存在するし、どちらにも向かう可能性があると思う。＞

＜　念のために書き添えておくと、決して「社会に警鐘を鳴らしている」つもりは無い。良かれ悪しかれ、『AIによる人間の分析』は、今後加速度的に広まっていくはずで、それによる効率化を押しとどめる力は存在しないと思う。＞