【衝撃】メタAI、児童虐待報告の質低下で捜査を妨害か？ICACが警告

メタAIと児童虐待のニュース概要

メタ社がソーシャルメディアの監視に人工知能（AI）を使用することで、児童性的虐待に関する無効な報告が大量に発生し、捜査リソースを圧迫し、捜査を妨げていることが、米国インターネット犯罪対策タスクフォース（ICAC）の担当者から指摘されている。

ニューメキシコ州のICAC特別捜査官ベンジャミン・ズウィーベル氏は、メタ社のプラットフォームが利益を優先し、児童の安全を軽視しているという州司法長官の主張に対し、メタ社はティーンアカウントのデフォルト保護などの変更を導入したと反論している。ICACは全国的な法執行機関ネットワークであり、オンライン上の児童搾取および虐待事件を捜査・起訴する。

別のICAC担当者は、メタ社から毎月数千件の報告が寄せられているが、その質が低く、重大な対応が困難であると述べた。2024年から2025年にかけてサイバーチップの総数が倍増したことも報告されている。インスタグラム、フェイスブック、ワッツアップからの無効な報告には、犯罪ではない情報や、重要な画像、動画、テキストが欠落している、あるいは削除されているケースが含まれているという。

メタ社は、法執行機関との協力体制を強調し、緊急要請への迅速な対応をアピールしている。また、AIによる検出と人間のモデレーターによるレビューを組み合わせた安全対策を講じていると説明している。

しかし、2019年の社内文書からは、メタ社幹部が児童性的虐待の監視と法執行機関への通報能力について社内で警鐘を鳴らしていたことが明らかになった。特に、フェイスブック・メッセンジャーの暗号化が、児童搾取やテロ計画の発見を困難にする可能性があると懸念されていた。

新たな報告法「Report Act」の施行により、オンラインサービスプロバイダーの報告義務が強化され、メタ社からの無効な報告件数が急増している。ICAC担当者は、AIによる誤検出が原因である可能性を示唆し、リソースの浪費と捜査の遅延を訴えている。

AI報告の質低下の注目ポイント

1. MetaのAIによる児童虐待報告の質の低下：AIが生成する児童虐待に関する報告の多くが不正確で、捜査リソースを浪費し、捜査を妨げている。
2. 報告件数の急増と捜査への影響：Report Act施行後、Metaからの報告件数が大幅に増加し、捜査官の士気を低下させ、リソース不足を招いている。
3. 過去の暗号化計画と安全性への懸念：Meta社内では、Messengerの暗号化が児童虐待やテロ計画の摘発を困難にする可能性について、早期段階から懸念が示されていた。

メタのAIと捜査への分析・解説

MetaのAIによる児童性的虐待コンテンツのモデレーションが、大量の無効な報告を生成し、捜査リソースを圧迫している問題が浮上している。
米国インターネット犯罪対策タスクフォース（ICAC）は、Metaからの報告の質が低く、捜査に繋がらないケースが増加していると証言している。
2024年から2025年にかけてサイバーチップの総数は倍増したが、犯罪の兆候を示す情報であっても、証拠となる画像や動画が欠落している事例が相次いでいる。
Meta側は、法執行機関との連携や緊急時の対応速度の向上を主張するも、ICACはAIによる誤検知が捜査の遅延と士気の低下を招いていると指摘。
2024年施行の「報告法」により、オンラインサービスプロバイダーの報告義務が強化されたことが、無効な報告の増加に拍車をかけている可能性も示唆されている。
Meta社内文書からは、エンドツーエンド暗号化導入の際に、児童虐待コンテンツの摘発が困難になる懸念が既知であったことが明らかになっている。
この問題は、AI技術の進歩とプライバシー保護のバランス、そしてソーシャルメディアプラットフォームの社会的責任を改めて問うものと言える。

詳しい記事の内容はこちらから

参照元について