【衝撃】ディープフェイクポルノで数百万ドル収益か、米市がAI規制強化へAppleらに警告
ディープフェイクポルノアプリ削除要請のニュース概要
サンフランシスコ市はアップルとグーグルに対し、人物の画像をデジタル処理で裸にするいわゆるヌディファイアプリを各社のアプリストアから削除するよう要請しました。
これらのアプリは同意のないディープフェイクポルノを生成するものであり、カリフォルニア州の法律ではこうしたコンテンツの作成を助長する行為を禁じています。
同市のデビッド・チウ市検察官は、両社が不適切なアプリで収益を得ており、女性や少女を搾取する行為に加担していると強く批判しました。
テック・トランスパレンシー・プロジェクトの報告書によると、以前から警告を受けていたにもかかわらず、両社は長期間にわたり決済処理を通じて利益を得てきたと指摘されています。
チウ氏は両社が数百万ドルの手数料を得ていた可能性に言及し、法的な民事罰が科される可能性を警告しました。
これを受けてアップルは問題のアプリを順次削除する方針を示し、グーグルも該当するアプリを停止したと回答しています。
ディープフェイクポルノは主に女性を標的としてきましたが、現在の技術では公開されている写真があれば誰でも被害に遭うリスクがあります。
テクノロジー企業には、AIを悪用した性的虐待を防ぐためのより積極的で厳格な監視が求められています。
AI規制強化とアプリストア運営の注目ポイント
- サンフランシスコ市は、同意のない性的ディープフェイク画像を生成するアプリを配信し利益を得ているとして、アップルとグーグルに対し削除を命じました。
- カリフォルニア州の法律では、性的搾取に関与するツールの提供や決済処理を助長することを禁じており、両社は民事責任を問われる可能性があります。
- 両社は警告を受け一部のアプリを削除・停止しましたが、市側はさらなる予防策と責任ある対応を強く求めています。
プラットフォーム責任とAI規制の分析・解説
今回の事案は、アプリストアのプラットフォーマーが単なる「デジタル市場の運営者」から、掲載コンテンツの法的責任を負う「共犯者」へと変貌する転換点を示しています。
これまで両社はアプリの審査基準を盾に責任の所在を曖昧にしてきましたが、決済手数料を通じて「デジタル犯罪のインフラ」を収益化していた事実は看過できない社会的重罪です。
今後は、AIの生成物に対する「中立性」という盾が崩壊し、開発者側だけでなく、決済ゲートウェイを管理するプラットフォーマー側にも、AIの出力結果に対する厳格なコンプライアンス管理が法的義務として課されるようになるでしょう。
これにより、AIアプリに対する審査プロセスは人手による検閲から、アルゴリズムと法的なリスク評価が統合された高コストな形態へと進化を遂げます。
結果として、野放図なAIアプリの氾濫は終息に向かいますが、同時に小規模開発者が参入しにくい「クローズドなエコシステム」が加速し、巨大テック企業の市場支配力と責任範囲がより一層拡大する未来が待ち受けています。
※おまけクイズ※
Q. サンフランシスコ市のデビッド・チウ市検察官が、アップルとグーグルを強く批判した主な理由は何ですか？
ここを押して正解を確認
正解：同意のないディープフェイクポルノを生成するアプリで収益を得ていたため
解説：記事の序盤で言及されています。
選択肢：
1. アプリの審査基準が不明確であったため
2. 同意のないディープフェイクポルノを生成するアプリで収益を得ていたため
3. 小規模開発者の市場参入を意図的に妨害していたため
まとめ
サンフランシスコ市が、性的ディープフェイクを生成するアプリを放置し利益を得ていたとして、AppleとGoogleを厳しく批判しました。両社はアプリの削除を開始しましたが、プラットフォーマーとしての法的責任が問われる重要な転換点です。AIの悪用を防ぐには、単なる審査を超えた企業側の厳格な監視義務が不可欠です。テクノロジーの恩恵を享受する一方で、個人の尊厳が守られる安全なデジタル環境の構築を強く期待したいですね。
関連トピックの詳細はこちら
