秋に大統領選挙を控える米国ではディープフェイクが身近な問題に
バイデン大統領のフェイク音声がすでに出回っている
マカフィーは2024年4月23日、「ディープフェイクが選挙に及ぼす影響に関する調査」の結果を発表しました。これは2024年1～2月に米国、英国、フランス、ドイツ、オーストラリア、インド、日本の7ヵ国から合計7000人以上の消費者を対象に実施した調査をまとめたものです。
それによると、米国人の約4人に1人（23％）が、「最近政治に関わるディープフェイクを使った情報に遭遇し、後に偽物であることがわかった」と回答していることが明らかになりました。
また、“最も懸念されるディープフェイクの利用法”についての質問で、米国では選挙関連のトピックが上位を占めています。43％が「選挙に影響を与える」「公人（たとえば政治家や有名メディア関係者）になりすます」、37％が「メディアに対する国民の信頼を損なう」などと回答しました。
米国ではすでに、バイデン大統領の声を模した偽メッセージ電話がニューハンプシャー州予備選で確認されているなど、AIを悪用して選挙結果を特定の方向に導こうとする試みは身近なものとなっています。
そのほか、調査の結果判明した主な傾向は下記の通り。
消費者は真実と虚構を慎重に見分けることがますます求められるように
生成AIコンテンツが広く出回り、リアルな映像や音声を複製できるようになった現代において、本物と偽りのニュースを見分けるのに、人間の目や直感はもう頼りになりません。
●米国では10人中7人近く（66％）が、日本では2人に1人（51％）が、1年以上前からディープフェイクに懸念を抱いている。
●米国では回答者の半数以上（53％）が、日本では4人に1人以上（27％）が、AIによってオンライン詐欺を見破るのがさらに難しくなったと回答。
●米国では72％、日本では97％とソーシャルメディアユーザーの回答者の大多数がフェイクニュースや詐欺などのAIが生成したコンテンツを見分けるのは困難だと感じている。
●AIで生成されたボイスメールやボイスメモを誰かがシェアした場合、本物と偽物を見分ける自信があると思う人は米国ではわずか27％、日本ではわずか3％であった。
選挙シーズンに白熱化する音声ディープフェイク
世界で選挙が繰り広げられる今年は、政治的情勢が激化するなかで、ディープフェイクがもたらす選挙への影響についても懸念が高まっています。著名人・政治家の声を模したAI生成の音声に騙されることは、政治的な議論や選挙結果に大きな影響を与える可能性があります。
米国
●過去12ヵ月の間に、43％の人がディープフェイクコンテンツを見たことがあり、26％の人がディープフェイク詐欺に遭遇し、9％の人がディープフェイク詐欺の被害に遭ったことがあると回答。
●ディープフェイク詐欺に遭遇した、または被害に遭った人のうち：
・約3人に1人（31％）が、何らかのAI音声詐欺（友人や恋人のように聞こえる電話、ボイスメール、ボイスメモを受け取ったが、実際はボイスクローンであった、など）を経験したことがあると回答。
・約4人に1人（23％）が、政治家候補者のなりすまし動画、画像、録音に遭遇し、最初は本物だと思ったと回答。
・40％が、有名人の動画、画像、録音を目にしたことがあり、本物だと思ったと回答。
日本
●過去12ヵ月の間に、8％の人がディープフェイクコンテンツを見たことがあり、2％の人がディープフェイク詐欺に遭遇し、3％の人がディープフェイク詐欺の被害に遭ったことがあると回答。
●ディープフェイク詐欺に遭遇した、または被害に遭った人のうち：
・37％が、何らかのAI音声詐欺（友人や恋人のように聞こえる電話、ボイスメール、ボイスメモを受け取ったが、実際はボイスクローンであった、など）を経験したことがあると回答。
・18％が、政治家候補者のなりすまし動画、画像、録音に遭遇し、最初は本物だと思ったと回答。
・18％が、有名人の動画、画像、録音を目にしたことがあり、本物だと思ったと回答。
今年は世界的に重要な選挙が目白押し！ 消費者に必要なのは「健全な懐疑心」だ
米国マカフィーの最高技術責任者（CTO）スティーブ・グロブマン（Steve Grobman）は調査結果について次のように述べています。
「世界各地で選挙が相次ぐ選挙イヤーにディープフェイクを作るのは、今や半日もあれば誰でもできます。クローン音声やディープフェイク動画を作るツールは簡単に入手でき、使いこなすのに数時間かかり、そして、それが本物であるかのように見せて人々を信じ込ませるのはほんの数秒しかかかりません」
「生成AIが音声や映像を簡単に操作できるようになったことで、特に重要な選挙イヤーである今年は、コンテンツや情報の信憑性について重大な疑問が投げかけられています」
「マカフィーは、特に選挙時においては、消費者に健全な懐疑心を持つことを勧めます。マカフィーでは、AIにはAIをもって打ち勝つようなディープフェイク音声検出技術から、テキストメッセージ、ソーシャルメディア、ウェブブラウザ上の危険なリンクを分析し、ブロックするといったオンラインセキュリティまで、プライバシーや個人情報の保護に役立つ様々なソリューションを提供しています」
実際、マカフィーはAIを活用した音声ディープフェイク検知技術「プロジェクト・モッキングバード」を開発しました。これは、「動画内の音声がAIによって生成された可能性が高いかどうかを識別」することが可能で、同社はコンテンツが見た目と異なる可能性を評価するのに役立つとしています。
週刊アスキーの最新情報を購読しよう
