AIについて解説します ～AIが怖いという人にこそ見てほしい～

第2話 人を騙す技術

　前回は強いAIと弱いAIの話をしました。

　現時点では強いAIが存在しないため、当面はAIが人類を滅ぼす心配をする必要がないわけです。

　でも、弱いAIでも多くの問題が存在します。

　中でも、おそらく今年盛り上がるであろうと私が予想している問題は『ディープフェイク』です。

　『ディープフェイク』は弱いAIで使用されている『深層学習（ディープラーニング）』と『偽（フェイク）』を合成して作成された言葉で、AIによって偽物の画像や動画が作成され、SNS等で拡散される問題です。

　具体的には大統領や首相等に偽の発言をさせることで、その人物の社会的な評価を落としたり、ネガティブキャンペーンに利用されたりします。

　日本でも2023年夏頃に岸田総理の偽動画が拡散され、話題となりました。

　なんと、この動画は１時間程度で作成されたそうです。

　おそらく今年盛り上がるであろうと予想した理由は、アメリカの大統領選挙があるからです。

　近年のアメリカの大統領選挙は多くのフェイクニュースが飛び交うことでも知られておりますが、今年は既にバイデン大統領が予備選挙に行かないように訴えるフェイク動画が拡散されています。

　『ディープフェイク』の問題は政治だけではありません。

　有名人が主催や投資顧問をしているとして投資を呼びかける詐欺も横行しています。

　画像も音声も本人と全く見分けがつかないレベルになっているため、この手のウマイ話には注意が必要です。

　フェイク画像はAI以前から存在していましたが、拡大などをしてみると切り貼りの痕跡を見つかることもありました。

　でも、『ディープフェイク』では人間による判別は困難なケースが多いようです。

　この分野に関しては、AIが人間を超えていると言ってよさそうです。

　こうした問題の対処方法は、情報を安易に信用せずにきちんと裏を取ることです。

　政府や有名人のHPを見ると、こういったデマが出回っているので気をつけてくださいと注意喚起をされていることも多いです。

　SNSで拡散されているニュースは大手メディアが作成しているかといった情報元を辿ることも行いましょう。

　そして、裏が取れていない情報は絶対に拡散しないことです。

　拡散の仕方によっては、拡散した人も処罰される可能性があります。

　これからの世の中は情報リテラシー（世の中にある情報を適切に把握して活用できる能力）を正しく身につけることが要求されるでしょう。

　こういった問題が取り上げられると、必ずといっていいほど出てくるのが『AIは危険だから規制を強化すべき』という脅威論です。

　先日、某ニュース番組を見ていたら、『EUがAI規制をしているのに日本は何をしているのか』という趣旨の発言をしておりました。

　これはなかなか難しい所でして、AIには問題があるものの、メリットの方がはるかに大きいと考えられていることが一番の要因でしょう。

　また、AIはアメリカと中国が激しい競争をしています。

　規制をすることは競争に不利となるため、中国が規制をすることはなさそうです。そうなると、アメリカももちろん規制をしませんし、日本も簡単に規制に踏み切れないかもしれません。

　では、EUのAI規制についてロイター社の記事を一部抜粋して紹介してみたいと思います。

　2024年3月13日の『欧州議会、包括的なＡＩ規制法を可決　世界に先駆け』という記事です。

　――

　起草から３年を要したが、その間に米マイクロソフト(MSFT.O), opens new tabが出資するオープンＡＩの「チャットＧＰＴ」や、グーグルの「ジェミニ」などの生成ＡＩシステムが産業や人々の生活に浸透。同時に、誤情報やフェイクニュース拡散への懸念も高まっている。

　対象となる影響の大きい汎用ＡＩモデルとリスクの高いＡＩシステムは、特定の透明性を満たしている義務と、ＥＵの著作権法の順守が必要となる。

　――

　まず気になる点は、『ChatGPT や Gemini が産業や生活に浸透』とあります。これは正しいのですが、『同時に、誤情報やフェイクニュース拡散への懸念も高まっている』とも書かれています。２つの事実を並べただけなのですが、ChatGPTやGeminiはフェイクニュース拡散とは関係がありません。関係がない２つをなぜ並べて書いたのか、ちょっと意味が分かりません。

　知識のない人が見れば、ChatGPT や Gemini が誤情報やフェイクニュース拡散をするように見えてしまいます。

　（補足：確実な確認はできていませんが、どうやらEUの会議の中でこのような表現があったようです）

　次に『対象となる影響の大きい汎用ＡＩモデル』とありますが、前回の記事にも書いたとおり、汎用AI（強いAI）はまだ実現できていないので影響はありません。

　実現できていないのにどんな大きな影響があるのか知りたいものです。

　汎用AIの実現にブレーキがかかるとかそのような話であれば、よく分からずに書いているのかもしれません。

　この法案の趣旨は『AIが生成した画像や動画はAIが生成した事実を通知する』というもので、それによって情報の透明性を確保しようというものです。

　趣旨が理解できていないから『特定の透明性を満たしている義務』などという曖昧な表現なのかもしれません。

　翻訳のミスかもしれませんが、この記事が公開されていることや影響力を考えると問題だと思います。

　といったように、AIについては大手メディアの報道に関しても簡単に信用できません。

　ChatGPTや画像生成AIが危険だという方は、このような情報を鵜呑みにしているのではないでしょうか。

　各自が情報リテラシーを身につけることが一番重要なのですね。

　ちなみに、私は近況ノートにAIが生成した画像を貼っていますが、もちろん『AI（Bing Image Creator）が生成した』ことを明記しています。

　明記していない方、今後は書くことをお勧めしたいです。

　次回へつづく。