【衝撃】Xの放置が招くディープフェイク嫌がらせ、メディア介入でようやく凍結も露呈した監視網の脆さ
Xにおけるディープフェイク嫌がらせのニュース概要
イギリスを拠点に中国の民主化活動を行うアップル・ペイチン・ニー氏が、SNSのX上で執拗な嫌がらせを受けました。
ニー氏のアカウントをタグ付けした投稿には、ディープフェイク技術を用いて作成された彼女の性的な偽画像や薬物中毒であるかのような虚偽の内容が含まれていました。
親中派のボットによるものと推測されるこれらの投稿に対し、ニー氏がXの運営へ報告を行いましたが、当初は嫌がらせや暴力的な言動には該当しないとして却下されました。
英国警察も米国の企業であるXに対しては捜査が困難であるとの見解を示していました。
しかし、ガーディアン紙がXに対して見解を求めた数時間後、該当アカウントは凍結されました。
ニー氏は中国当局から家族への脅迫も受けており、自身の身の危険を感じながら活動を続けています。
今回の件はXのコンテンツ監視システムが機能不全に陥っているという批判を招いています。
英国の規制当局であるオフコムはテロやヘイトコンテンツへの対応を強化するようXと合意していますが、今回の事案は個別の活動家に対する嫌がらせが放置されている実態を浮き彫りにしました。
X側からは本件に関するコメントは得られていません。
活動家を狙うXの嫌がらせと監視体制の注目ポイント
- 英国の活動家がX上で性的なディープフェイク画像などで中傷されたが、X側は当初、自社のルールに違反していないと判断し投稿を削除しなかった。
- 運営会社へのメディアの問い合わせ後、ようやく対象アカウントが凍結されたが、Xの自動審査システムの不備や対応の遅さが改めて問題視されている。
- 被害者は中国当局による家族への嫌がらせも受けており、X側のヘイトスピーチ対策が特定の政治的意見を持つ活動家に対して機能していないと指摘した。
X上のディープフェイクと情報戦に関する分析・解説
今回の事案が浮き彫りにしたのは、SNSプラットフォームの自動化されたコンテンツ監視システムが、国家レベルの組織的な「情報戦」に対して完全に無力化しているという現実です。
AIを用いたディープフェイク技術とボットネットワークの組み合わせは、従来の個人攻撃とは一線を画す「社会的抹殺」を目的とした兵器と化しています。
特筆すべきは、メディアが問い合わせるまでXのアルゴリズムがこれを「規約違反ではない」と判定した点であり、これは検閲権力がAIの判断を隠れ蓑にして、特定の政治的異論を実質的に排除している懸念を強めるものです。
今後は各国政府が主導するデジタルプラットフォームへの規制圧力が加速し、運営の透明性確保がかつてない厳しさで問われることになります。
しかし、テック企業が検閲と表現の自由の境界線をAI任せにする限り、特定の個人が国家権力の影に怯える「デジタル監視社会」のパラドックスは深まるばかりでしょう。
※おまけクイズ※
Q. 記事の中で、アップル・ペイチン・ニー氏に対する嫌がらせ投稿をXが凍結したきっかけは何ですか？
ここを押して正解を確認
正解：ガーディアン紙がXに見解を求めたこと
解説：記事の概要で言及されています。
まとめ
活動家がX上で性的なディープフェイク等による執拗な嫌がらせを受けた本件は、SNSの監視システムが組織的な情報戦に無力であることを露呈させました。メディアの問い合わせ後にようやく対処された対応の遅さは、プラットフォームの透明性に大きな疑問を投げかけています。AI任せの検閲が個人の尊厳を損なう事態はあってはならず、テック企業には表現の自由と安全を両立する責任ある仕組みづくりを強く求めたいと考えます。
関連トピックの詳細はこちら
