なぜかカクヨムにいる絵師の日記

【またAIの話です】紙魚の手帖 vol.12を読んで

円城塔氏が画像生成AIについての小説を書いたというので読みました。紙魚の手帖12に収録されています。

実際読んでみると、想像していたより具体的で、しかもLoRAという名称が作品内にそのまま登場していました。

LoRAというのは写真の場合は特定の人物に、イラストの場合は特定の絵師に特化した模倣で、これは規制ゆるゆるの日本でも結構違法と認められるものです。

以下気になったところ（原文ママのものもありますが、ほとんど要約です）

・語り手が、LoRA使用者の手記のようなものを発見したところから始まる。語り手のいる視点（未来）では、画像生成AIの学習素材データにはハッシュによる追跡可能性が義務付けられている。（これは作者による改善案とも取れる）LoRA使用者が使用していた時点ではそれがなく、所持や流通が違法な画像が取り込まれていた。（これは現実の現在の状況と同じ）

・機械はただ既存の絵を切り貼りする。世界を無数の特徴に分類しては並べ替える。ピクセルまでは分解しない。脳の細胞たちが縦線を「認識」したり横線を「認識」したり、輪郭を「抽出」したりするのと同様に、世界を様々の部分に、カテゴリに分け、再構成する。

・ユーザーにとっては箱の中身が人間だろうと機械だろうと本質的な違いはない。どちらも膨大なニューラルネットワークがあり、それによって画像を生み出す。

・無断学習は巨大な問題をはらむものであり、カメラの前に裸で立たされるものは増えるだろうし、世界の不幸の総量は増えるだろう。わたし（LoRA使用者）は業者にやめろと強く警告する。しかし、わたしはその直後に高性能なGPU搭載のPCを注文する。←（！？）

・画像生成AIが無作為に取り込んだデータに違法なものがあることの昏さを「原罪」と呼ぶ。

・被害者がいないという建前において生成されたわたしのローラを誰かがやってきて悪のわたしを打倒し救出してくれないかという想像をする。

・しかしあなたたちはいかにしようとわたしのローラを救出することは叶わない。

単に「これからは画像生成AIで儲けよう」みたいなインフルエンサーの本とは一線を画しているのが、危険性や違法性について触れているところです。しかし、主人公はLoRAユーザーです。

思ったより長い短編なのですが、要約すると、「商用はまずいだろうけど私用で楽しむならおｋ」みたいな話なのでしょうか？

これは自分の認識とは離れていません。グラビア的画像の生成は、ゲームのエロMODみたいな地位に落ち着くのでは？と思ってますから。

自分が直接関心のある話題とは少しズレていました。

これは、主に実写LoRAの実態と罪悪感みたいな話のようです。chichipuiとかfantasiaにあるようなものの中でも、もっぱら実写グラビアのようなもの。

イラストにおける画風の模倣の話題はほとんどありませんでした。しかし、一部突然日本風イラストについて語られます。そこでは実写生成モデルにイラストが「侵食」してくるということ。（実写風に生成させたいのにイラストのデータが入ってきてうざいということ？）その様式が「控えめに行ってもグロテスクな代物（誤字っぽいのも原文ママ）」「『日本人』以外には模倣できない画風」「機械による自動生成によってようやく模倣が可能となった」

この「AI前は日本人以外には不可能だった」というのは（定義によっては）間違いで、画像生成AIの登場前から海外、特に中韓の絵師には日本人の画風を真似できる人が存在しました。ただこの部分が言いたいのはそのような詳細ではなく、独特さのことで、それが日本人の悪い意味ですげえ保守的な気風と密接に関係してるのでは、みたいな表現もされていて、特に否定されないまま文章は進んでいきます。なんか……いわゆる萌え絵に対する村上隆的な分析なのかはわかりませんが、そういう部分があります。

いや自分は萌え絵とは離れてるからダメージ受ける必要はないんですけど、まじかーと思いました。

たしかに、純粋に萌え絵に限っていえば中韓の絵師で真似してる人もほとんどいないでしょうし……　萌え絵ではなく、AIイラストで頻出するような絵柄のことかもという文脈もあり、日本のイラストが広範囲でグロテスクなのかなとちょっと思ってしまいました。（そもそも無断で取り込まれて、中でも秀逸な絵柄に特化される生成がなされ、気に入らない絵はネガティブプロンプトで排除され、ついでに酷評される、それ自体がAIアートの失礼なところだという批判がネットでは存在します）

結局のところ、SF小説家はあくまで常に画像生成AIに対しては「ユーザー」であるという姿勢を取る傾向にあるのかなと再度思いました。「ポロック生命体」も、SFマガジンの「純粋人間芸術」も。

すべてユーザー目線です。開発者、ユーザー、鑑賞者は登場しても、学習元にされた人が登場しないのです。

個人的には、そもそもLoRAなんか使わなければ学習元の違法画像について悩まなくてもいいのになぁと思いました。

なんか小説家としては言葉→画像に変換してくれるというのは長年の夢の装置で、これは使うしかねえって感じで、実際使うと美しいのでハマってしまうんでしょうけど、そこですでに見落としてるものがあるんじゃないでしょうか？

そもそもこの技術が超大量の画像を「学習」、つまり「食わせる」ことで成り立ってるという根本的なところに問題があるのではないですか。昔想像していた夢のマシーンはそんな前提条件があると語られてなかったはずです。

そんなこと言ったら生成AI全部駄目じゃんと返されますが、駄目とは言ってないですけど、当分は利益より悪用のほうが多い状態が続きそうじゃないですか。

人間も学習するじゃんとか、そこには長い反論があります。そこを一緒にしてしまわないのがSFじゃないのですか、一緒にするのがSFっぽい傾向はありますが。

機械と人間がそもそも違うということが言えるのはオートポイエーシス論という理論ですが、このこともそのうち言いたいと思います。

あとは学習元にされた人とか絵師の視点もあればいいなーと思いました。ディープフェイクされた俳優とか、LoRAされてないけど学習元に自分が入っていることは知っている状態で「存在しない俳優」による映画を作られたとき、俳優がどう感じるかとか。

ユーザー（制作者）とか視聴者がそれらを問題なく楽しめるのは知ってるので、別にそこは言ってもらわなくてもいいかなと思います。

つまるところ絵師というのは横行するディープフェイクによる最初の被害者集団でしかないですから……。

なんだか尊敬しているSF小説家の方々に上から目線で批判しているようですが、そんな感じになっていたら恥ずかしいのですが、そうするつもりはないのです。

ただ「学習」には必ず「学習元」にされた人間（あるいは作者）があって、苦痛を感じている人がいて、その人達の視点を意識した小説を書いてほしいということです。というか彼らが主導権を握ってもいいくらいでは？コンテンツの大本の所有者なわけですから。