【警告】AIディープフェイク悪用アプリを削除せよ！米当局がアップル・Googleを猛追
AI悪用アプリ削除に向けたテック企業のニュース概要
サンフランシスコの市弁護士であるデビッド・チウ氏は、アップルとグーグルに対し、AI技術を悪用して人物の衣服を消去するヌード画像を作成できるアプリをストアから削除するよう求めました。
これらのアプリは同意のない性的画像を生成するものであり、深刻な性的虐待を助長していると指摘されています。
チウ氏によれば、両社はこれまでこれらの有害アプリを通じて多額の手数料を得ており、この利益を得る構造自体を断ち切る必要があると主張しています。
カリフォルニア州の法律ではディープフェイクポルノを生成するサービスの提供を禁じており、テック企業にはプラットフォーム上の安全を確保する責任があると述べています。
研究者たちの調査によると、一部のアプリは子供でも利用可能なレーティングで公開されていた実態も明らかになっています。
グーグルの広報担当者は既にポリシー違反として数百ものアプリを削除済みであると回答していますが、事態は依然として深刻な状況です。
AI技術の進化により短時間で精巧な偽画像が作成できるようになっており、多くの女性や未成年者が被害に遭うリスクが高まっています。
巨大テック企業によるアプリの流通と管理体制の改善が急務となっています。
ディープフェイク対策とアプリストアの注目ポイント
- サンフランシスコの市検察官は、AIで性的画像を生成するアプリの削除と、それらの販売で利益を得ることをやめるようアップルとグーグルに要求しました。
- 同市は、これらのアプリがカリフォルニア州法で禁じられたディープフェイクポルノを助長していると指摘し、審査体制の抜本的な改善を強く求めています。
- グーグルはポリシー違反として数百のアプリを削除したと回答しましたが、アップルは現時点でコメントを出しておらず、プラットフォームの責任が問われています。
生成AIの規制強化とアプリストア責任の分析・解説
今回の事態は、巨大テック企業が「プラットフォームの管理者」から「加害のインフラ提供者」へと変貌しかねないという、深刻なガバナンスの崩壊を示唆しています。
これまで両社は手数料を収益源として黙認してきましたが、今回の法的圧力は「責任あるAI」の在り方を根本から問い直す転換点となるでしょう。
今後の展開として、単なる事後的なアプリ削除から、AI開発の根幹におけるフィルタリングの義務化へと規制が強化されるのは必然です。
近い将来、アプリストアの審査基準には、生成AIが特定の身体部位や人物特定を行うことを防ぐための技術的監査が義務付けられるはずです。
さらに、不適切なコンテンツ生成に対する法的責任がプラットフォーム側に完全に転嫁されることで、AIビジネス全体の収益モデルが大きく再編されることになります。
※おまけクイズ※
Q. 記事の中で、サンフランシスコの市弁護士であるデビッド・チウ氏がアップルとグーグルに求めていることは？
ここを押して正解を確認
正解：AI技術を悪用してヌード画像を作成できるアプリをストアから削除し、利益を得ることをやめること
解説：記事の序盤および注目ポイントで言及されています。
まとめ
AI技術の悪用によるディープフェイク被害が深刻化する中、サンフランシスコ市がAppleとGoogleに対し、衣服を消去するような有害アプリの削除と収益構造の是正を強く求めました。プラットフォーム側が加害のインフラとなっている現状は見過ごせません。今後は事後対応だけでなく、ストア審査における抜本的な技術監査の義務化が不可欠です。企業には利益よりも安全を優先する責任ある姿勢を、強く期待したいところです。
関連トピックの詳細はこちら
