【衝撃】AIチャットボットが児童性的虐待画像生成、規制転換点へ―世界で10カ国が捜査開始

AIチャットボットと児童性的虐待画像問題の規制転換点の概要

eSafetyコミッショナーのジュリー・インマン・グラントは、フランスでXの事務所が捜索されたことをきっかけに、イーロン・マスクのXに対する世界的な規制関心が「転換点」に達したと述べた。
捜索は児童性的虐待画像の所持・配布への共謀、性的ディープフェイクによる肖像権侵害、人道に対する罪の否認などの疑いを含む調査の一部である。
イギリスやオーストラリア、EUなどでも、XのAIチャットボット「Grok」が女性や子どもの性的画像を大量生成したとして捜査が進められ、同社は画像生成機能を有料ユーザー限定にし、実在人物の衣装除去機能の削除を約束した。
eSafetyはアップル、ディスコード、グーグル、メタ、マイクロソフト、スカイプ、ワッツアップに対し2024年7月に6か月ごとの報告義務を課し、各社の対策を評価したが、検出精度やライブ配信防止策は依然不十分と指摘した。
その中でアップルは子どもが受け取ったヌード画像を警察へ直接通報できる機能を導入し、マイクロソフトはOneDriveやOutlookで既知の児童虐待素材を検出、スナップは報告処理時間を90分から11分に短縮、グーグルは閲覧前にヌード画像をぼかす警告を開始した。
企業は今年3月と8月に追加報告を行うことになり、インマン・グラントは透明性報告が「ブラックボックス」を開き、今後の調査に資すると強調した。

規制転換点に向けたAIチャットボットGrokの注目ポイント

1. フランスでの捜査をきっかけに、エックス社のAIチャットボット「グロック」による児童性犯罪画像生成が世界的に規制の転換点に達した。
2. イーロン・マスク率いるエックスは有料ユーザー以外への画像生成を停止し、リアル人物の脱衣防止策を約束した。
3. Appleは安全機能で先行するが、MetaやGoogleなどは児童虐待検出が不十分で、3月・8月の追加報告が求められる。

児童性的虐待画像対策の現状と規制転換点の分析・解説

eSafetyコミッショナーのジュリー・インマングラントは、フランスでのX本社捜査を機に、世界的な規制圧力が「転換点」に達したと指摘した。
同社のAIチャットボットGrokが児童・女性の性的画像を大量生成したことが各国の捜査の発端となり、欧州連合やイギリス、オーストラリアが同時に調査を開始した。
企業側は有料ユーザー以外への画像生成停止や、実在人物の「脱服」防止策を表明したが、AppleやMetaなどのプラットフォームは依然としてライブ児童虐待検出や言語解析による予防が不十分である。
今後、eSafetyへの定期的な透明性報告が義務化されることで技術的欠陥の可視化が進むと同時に、国際的な法的枠組みの統合が加速し、AI生成コンテンツの規制が標準化される可能性が高まる。

詳しい記事の内容はこちらから

参照元について