習合異式

最近筋トレにハマった習合異式です。

PIC SISTER!の32話を投稿しました。

　今回の近況ノートは、ラスコーが語った内容の補足、兼このアイデアに至ったかの解説です。
長い話になるので、ご興味が無ければ「おっ、今日も元気にやっとるな」くらいに流していただければと思います。

　このPIC SISTER!という作品は「もしこのAIで生成した画像のヒーローがいたら」というアイデアから「このヒーローのいる世界はAIでしか絵が描けない」という変遷があり現在の形になりました。その絵の描けない理由として考えたのが、ラスコーが語った『AIを利用した支配』です。

　私たちの住む世界では高機能なtext-to-imageモデル『Stable Diffusion』がオープンソースで世に放たれてから、画像生成AIを取り巻く環境が激変したことは周知のことかと思います。またそれは、作品のおすすめレビューでも言及していただいた通り、画像生成AIによる様々な問題を生み出しました。

　学習データの著作権問題。大量のAI絵が作られイラスト投稿サイト、もしくは販売サイトが埋め尽くされる問題。作成途中の絵をAIを使用し第三者が『書き上げさせ』オリジナルの作者より先んじて発表などなど、枚挙に暇がありません。
　これらの『AIを自由に使えるが故の問題』は進展はともかく、現実世界でも議論にあげられることが多いので、私は角度を変えて『AIを自由に使えない問題』にフォーカスしてこの作品を書いてみようと思いました。

　前述のとおり画像生成AI自体はオープンソース、自由に誰でも利用することができます。一定の知識、環境があれば自前でAIにいくらでも絵を描かせることができます。
　そして、私も含めた知識や環境がない人間がAIを利用したい場合は、他社が公開したサイト、アプリケーションに搭載された画像生成AIを利用することになります。

　この際、AIに搭載されたセーフティ等で、公序良俗に反する生成物は規制され、表示はされなくなります。
　ただし、どういった理由で規制されたかの理由は、各サイトやサービスではほとんど開示されません。
以前投稿した神元ナスカのイラストも『軍服を着た白髪の少女』という文で生成しようとしたところ、一向に画像が生成できませんでした。

　これらの規制を回避するためには、作中でヒオリが行っていたように、規制の原因となっているプロンプトを探って除外したり、近似する画像を微修正して望むものに近づけたりすることになります（ナスカは後者の方式で作成されました）。

　いたずらにえっちな画像や、危険なシンボルを表示しないための大切な措置ではあります。
　ですが、成果物の生成過程や規制の原因が不明瞭な画像生成AIサービスは、容易に自由を規制する武器になりうる危険をもつのでは？

　大企業や政府は画像生成AIの利用に今は及び腰ですが、それを積極的に利用するようになったら？

　自由に利用できると喧伝するサービスに、自社製品を買わせるような誘導や、特定の政党への投票を促すようなメッセージを込めるようになったら？

　それらが気づかれないまま、利用者がAIを使い続けたら？

　そういった危険な世界のシミュレーションが今作の根幹になります。
　ただ、作中で語られたサブリミナル効果については科学的根拠に乏しいもので、人間の記憶を改ざんできるほどの効果を発揮するとは考えにくいです。

　また、仮にそういった思想誘導をするにしろ、企業であればステルスマーケティング、政府であればかの有名な『二分間憎悪』をやったほうが楽でいいと思います。（一応、EUではそういった使用を規制するため、AIを用いたサブリミナルや思想の誘導の禁止。ソースコードの開示等を企業に義務付ける法整備が進められているそうですが）
　このあたりはフィクションであるがゆえの理由付けであり、ラスコーを否定したライナ同様に、作者の妄想として一笑していただければ幸いです。
　筆者としても、こんな狂気じみた世界は来ないで欲しいなぁ、と願うばかりです。


※添付画像作成プロンプト:A country that can only draw pictures with AI【AIでしか絵の描けない国】