【衝撃】生成AI悪用でメタに排除命令！児童性的虐待広告350件の闇と広告審査の限界
メタの生成AI広告問題に関するニュース概要
サンフランシスコの市弁護士がメタに対し、生成AIを用いた児童の性的虐待コンテンツを含む有料広告の掲載を停止するよう求める排除命令書を送付しました。
メタのプラットフォーム上では、未成年者の静止画を性的行為を描写する短い動画に変換する広告が数百件も掲載されていました。
これらの広告はクリックすると画像生成アプリのダウンロードを促す仕組みになっており、欧米やアジアなどの多数のアカウントに配信されていました。
市弁護士は、メタが児童の搾取に対してゼロトレランスを掲げながらも、こうした広告から利益を得て問題への対処に失敗していると強く批判しています。
さらに、広告の審査や安全システムの運用に関する質問状を送り、同社のスタッフに対応を求めています。
これに対しメタは、当該の広告がサンフランシスコ市内で表示された形跡はなく、市の管轄外であると主張しています。
しかし市の当局者は、利用者がオンラインで不当な広告にアクセスできる以上は市全体の大きな問題であると反論しています。
メタ側は、問題となった広告の大部分をすでに削除済みであり、児童の搾取やヌード化アプリはいかなる形であれ容認しないという姿勢を示しています。
不適切広告に対するメタの注目ポイント
- サンフランシスコの市弁護士はメタに対し、AI生成による児童性的虐待コンテンツを含む有料広告を許可したとして警告書を送付した。
- 調査により、未成年者の画像を性的動画に変換する350件以上の広告がフェイスブックやインスタグラムなどで配信されていたことが判明した。
- メタはすでに該当する広告をすべて削除し、児童搾取やヌディファイアプリを容認しない姿勢を示しているが、当局との議論が続いている。
生成AIと広告規制の課題に関する分析・解説
今回の事件の本質は、既存の広告審査システムが生成AIの悪用スピードに全く追いついていないというプラットフォーム側の構造的な敗北にあります。
テクノロジー企業が収益源である広告インフラの自律的な浄化に失敗したことで、今後は自治体や法執行機関が直接介入する時代へのパラダイムシフトが確実視されます。
今後は管轄権の有無を巡る法的な泥沼化が予想されるだけでなく、プラットフォーム事業者に対してより厳格な事前審査義務と巨額のペナルティが課される法改正の動きが急速に加速する見通しです。
※おまけクイズ※
Q. サンフランシスコの市弁護士がメタに対して送付した排除命令書は、どのような有料広告の掲載停止を求めるものですか？
ここを押して正解を確認
正解：生成AIを用いた児童の性的虐待コンテンツを含む広告
解説：記事の序盤で言及されており、未成年者の画像を性的動画に変換する広告などが問題視されました。
まとめ
メタのプラットフォーム上で生成AIを悪用した不適切な広告が配信されていた問題は、テクノロジーの進化に審査体制が追いついていない現代の大きな課題を浮き彫りにしました。今後はプラットフォーム側に、より厳格な事前審査義務や法的責任が課されることが確実視されています。私たちユーザーが安心して利用できるデジタル社会の実現に向けて、今後の法規制の動向や企業の対応をしっかりと見守っていきましょう。
関連トピックの詳細はこちら
