【衝撃】メタプラットフォームズが女性政治家のAIポルノ広告を掲載、ディープフェイク対策の不備が露呈
メタプラットフォームズにおけるAIポルノ広告のニュース概要
メタプラットフォームズは性的コンテンツを禁止する規約に違反し女性の米国政治家に似せたディープフェイク動画の作成を促す人工知能ポルノ生成ツールの広告を掲載しました。
問題のツールはクロミックスと名付けられ制限がないことやキャラクターが実在の人物であることをうたって男性向けに宣伝されていました。
広告では米国旗の前で女性政治家に似た人物がウインクした後にポルノ動画のシーンへ切り替わる映像が使われていました。
このアプリケーションはアップルのアップストアで配信されていましたが取材の申し込みを受けて削除されました。
アップルやメタでは非合意の性的コンテンツや過激な表現を防ぐための規約が十分に機能していない実態が浮き彫りになっています。
専門家によると女性の政治家や公職者がこのようなディープフェイクの標的になる事例は長年にわたり後を絶ちません。
人工知能技術の普及により公式の肖像写真や記者会見の映像が悪意あるツールによって容易に加工される状況が生み出されています。
メタの広告審査システムは自動ツールに依存しており新規に開設された不審なアカウントによる広告出稿を事前に防ぎきれませんでした。
ディープフェイク広告掲載に関するプラットフォームの注目ポイン
- メタ社は、性的コンテンツを禁じる規約に違反し、アメリカの女性政治家を模したAIポルノ生成ツールの広告を掲載しました。
- アップルのApp Storeでも同様のアプリが配信されており、ガイドライン違反の過激なディープフェイク対策が課題となっています。
- 政治家を標的にした非合意のAIディープフェイク画像の拡散が問題視されており、プラットフォームの審査体制への疑問が高まっています。
生成AI悪用と審査体制の限界に関する市場影響の分析・解説
今回のインシデントの本質は、生成AIの民主化がもたらした「武器化」のスピードに、プラットフォーマーの検閲エコシステムが完全に敗北している点にあります。
自動化された広告審査やアプリストアの閉域な管理体制は、悪意あるアクターによる高度な偽装工作やゼロデイ攻撃的な出稿に対して無力であることが露呈しました。
今後は、政治家や著名人への攻撃が個別の嫌がらせの域を超え、民主主義の根幹を揺るがす情報戦のインフラとして組織的に利用されるパラダイムシフトが加速すると予測されます。
規制当局による事後的なプラットフォーム責任の追及はさらに厳格化し、企業側には受動的な削除対応から、生成モデルそのものの悪用を根元から遮断する次世代の暗号学的透かしや動的検知の導入が急務となります。
※おまけクイズ※
Q. 記事内で言及されている、女性の米国政治家に似せたディープフェイク動画の作成を促すAIポルノ生成ツールの名称は？
ここを押して正解を確認
正解：クロミックス
解説：記事の序盤で言及されており、制限がないことや実在の人物であることをうたって男性向けに宣伝されていました。
まとめ
メタやアップルのプラットフォームで女性政治家を模したAIポルノの広告やアプリが放置された問題は、巧妙化する悪意ある出稿に対し、現在の審査体制が追いついていない深刻な実態を浮き彫りにしました。ディープフェイクの悪用は個人の尊厳を傷つけるだけでなく、民主主義の根幹を揺るがす脅威となっています。今後はプラットフォーマーによる対症療法的な削除対応を超え、生成AIの悪用を根本から防ぐ強力な技術的対策が急務になると私たちは注視しています。
関連トピックの詳細はこちら
