画像生成AIの商用利用ついに開始へ フェイク対策も
強力な補正機能を備えるAdobe Fireflyですが、現在は、まだ商用利用は不可となっています。しかし6月8日、アドビは今年下半期から商用利用可能になるというエンタープライズ版を発表しました。今後、信頼性のあるAI生成コンテンツの商用利用に向け、Adobeが大きな提案として出しているのが、AI生成データへの「電子透かし」です。
たとえばAdobeは「Content Credentials（コンテンツ・クレデンシャル）」と言ってメタデータにAI生成データであることを電子透かしとして埋め込んでいます。Adobeだけでなく、マイクロソフトなどが設立したコンテンツ認証団体「C2PA」では、AIアートに電子透かしを入れるための共通規格を設けようとしています。
電子透かしの規格が整理されると何が起きるかというと、わかりやすいのは、5月22日に話題になった「米国防総省が爆破された」というフェイクニュース画像です。少なくともソースデータでメタデータが適切かどうかが確認できれば、この画像がウソだということが一発でわかるようになります。
Adobeの計画では、詳細な変更履歴までは残らないようですが、何のソフトを利用したのかといったことは記録として残るようになるようです。Adobeはカメラ会社にも導入を推奨しており、カメラが撮影した際、自動的にメタデータが追加されるようになります。そうなると、ある画像がオリジナルの写真のままなのか、その後、AIで修正されたものなのかは一発で確認が取れる状態になるのではないかと。
あとは、この規格にツイッター社（X社）などのSNSが合わせてくるかどうかという話がありますね。Twitterは表示に最適化するために、投稿時に画像のサイズを変えたり、圧縮したりとデータを変えてしまうので。もし規格に合わせるということになれば、改変が入ったデータかどうかはメタデータで確認すればすぐにわかるようになる。そういう意味ではデータ的な保全という意味でも非常にいい提案です。
今のところこうした規格に、オープンソースで開発が進むStable Diffusionなどが入ってくるかはまだわかりません。メタデータがなければないで、写真がオリジナルデータではないということが逆説的にわかるようになる。そういう意味ではすごく重要な提案ではないかと感じます。
ただ一方で、「どこまで触るとAIなのか」という疑問はあります。
たとえばPhotoshopでは「コピースタンプ」「コンテンツに応じた塗りつぶし」などもAIを使っているわけですよね。おそらく米国防総省のフェイク画像は、生成AIではなく、すでにあった機能が悪用されたものなのではないかと推測しています。そういった事情もあり、「どこまでをAIとみなすのか」は今後のテーマになるんじゃないかなと思います。
調べた結果がこれなので。
— 鎖城郎郭@AI錬成画師 (@sazyou_roukaku) May 23, 2023
下手したらPhotoshopの自動削除機能である『コンテンツに応じた塗りつぶし』で元画像から人を削除した結果、フェンスの形が歪んでるだけ説もあります。
生成AIがフェイク画像作成を容易にしたのは事実ですし、自動削除機能もAI系ですが、少し腑に落ちないですね。 pic.twitter.com/pMgjPFxctU
Adobeの圧倒的な優位点は、電子透かしなどの導入などを通じて、「安全な商用利用の可能性を見せている」ところです。また、商用化開始に合わせてAIのトレーニング用に使用した画像を提供したクリエイターに利益を分配する仕組みも導入するとしています。今まで著作権の危うさを警戒していてAIに手を出せていなかった人や企業が、「Adobeが担保してくれてるなら」ということで一気にAIに流れていく可能性はあるでしょう。
筆者紹介：新清士（しんきよし）
1970年生まれ。株式会社AI Frog Interactive代表。デジタルハリウッド大学大学院教授。慶應義塾大学商学部及び環境情報学部卒。ゲームジャーナリストとして活躍後、VRマルチプレイ剣戟アクションゲーム「ソード・オブ・ガルガンチュア」の開発を主導。現在は、新作のインディゲームの開発をしている。著書に『メタバースビジネス覇権戦争』（NHK出版新書）がある。
週刊アスキーの最新情報を購読しよう
