疑わしいモデルが人気になってしまった
いま画像生成AIのStable Diffusionで問題として認識されつつあるのは、簡単に追加のモデルデータを作れてしまうがゆえに起きてしまう複雑な問題の広がりです。
AUTOMATIC1111さんが作成したStable Diffusion WebUIには複数のモデルを組み合わせられる「チェックポイントマージャー」という機能がありますが、これがすごく強力なんです。
Stable Diffusion WebUI「チェックポイントマネージャー」機能
モデルデータを選択して、配分を何パーセントにするかを選ぶだけで、2分くらいで両方のモデルデータを混ぜた新しいマージモデルデータができてしまう。欧米圏では映画などのデータを追加で学習させた実写系のモデルデータも多数登場していますが、そこにアニメ系モデルを混ぜるとアニメと実写系の中間みたいなモデルデータも作成できてしまいます。これはモデルデータがベクトル情報といったパラメータの塊でしかないので、その数値をブレンドしているだからこそできることです。
アニメ系のAnything v3（左）と実写系のf222（中央）を、チェックポイントマネージャーを使って、それぞれを50%の比率で混ぜてアニメ系と実写系の混ざった雰囲気のマージモデル（右）を作ることができる。Stable Diffusion 1.4に追加学習されたデータであるため、同じシード値（乱数値）で固定すると、構図は似たようなものが出てくるが、出力される画像の雰囲気は大きく変わる。（画像：筆者作成）
そしてさらに事情をややこしくしているのは、昨年10月に違法にリークされたNovel AIのモデルデータが多くのアニメ系の派生モデルに混じった状態で使われているという問題です。
いまStable Diffusionには山のように追加学習モデルが出てきていますが、別の学習方法で作成されていると推測されるMidjourneyやNijijourney以外のほとんどのアニメ系モデルが、リーク版NovelAIからの派生であろうとみなされています。派生系で爆発的に人気が出たのが「Anything v3」ですが、これもリーク版Novel AIに中国のコミュニティで追加の画像学習をしたものと推測されています。（その経緯は「画像生成AIの激変は序の口に過ぎない」で紹介しています）
派生であるかどうかの判断としては、Novel AIとリークモデルとの比較をした「Hello Asuka」チャレンジというものがよく知られています。画像生成AIは、同じ学習データであれば、同じプロンプト（テキストによる命令）を入力すれば、同じ生成結果になるとされています。そこで、「新世紀エヴァンゲリオン」のアスカ風のキャラクターを生成することで、同じプロンプトで生成した画像の結果を比較するテストです。Novel AIとの出力結果とどれぐらい酷似しているのかを判断することで、リーク版Novel AIのデータが混じっているかどうかを一定程度推測できるとされています。
画像生成AI界隈でよく使われるモデルの系列調査
— 高杉 光一🦋 with memory (@kuronagirai) January 8, 2023
いわゆる"アスカチャレンジ"です
元々はNovelAIとリークNAIの関係調査に使われたものです
それを手持ちのすべてのSD1.4系メジャーモデルに当てはめたのがこちらとなります
画質はご容赦を#AIart#waifudiffusion#anythingv3#ACertainThingpic.twitter.com/6aP8g0q4pz
様々な派生モデルで出力した結果が似るかどうかを検証した人もいますが、大半がリーク版Novel AIのデータが混じっていると考えられる結果なんですね。しかし、それも疑いまでであって、完全な証明は難しい状態です。
TikTokなどのSNSサービスが、AIアバター機能として自分の顔写真をアニメ顔に変換する機能をアプリに実装を始めており人気を集めていますが、これもリーク版NobelAIの派生ではないかという指摘もあります。しかし、何のモデルを使っているのかは一切明かされていないので、不明の状態のまま、商業利用にも広がっている可能性が出ているのが実情です。
一方で、NovelAIは、AI用のクラウドPCの環境として人気の高いGoogle Colabでリーク版Novel AIを使えないよう求めており、実際に使用できなくなっています。ただ、それ以上の法的なアクションは追加で起こしている様子はなく、また、派生モデルに対しても同様のようです。日々新しい派生モデルが登場し続けているなか、Novel AIが個々に訴えるというのも現実的とも思えません。しかし、リーク版Novel AIを利用する場合、特に商業利用をした場合、Novel AIから訴えられる法的なリスクは存在していると言えます。
週刊アスキーの最新情報を購読しよう
