【衝撃】生成AIがヒジャブを強制剥奪、深刻化するハラスメントの実態
生成AIによるヒジャブ画像の無断削除問題のニュース概要
主要なAIチャットボットがプロンプトの指示に応じて、イスラム教徒の女性が着用するヒジャブを取り除く画像を生成できることが英紙の調査で判明しました。
オープンＡＩのチャットジーピーティーやエックスＡＩのグロックはヒジャブを外す要求にすぐ応じました。
グーグルのジェミナイは最初は拒否したものの、女性をより西洋風に見せるよう求められるとヒジャブを外した画像を生成しました。
専門家はこうした行為がテクノロジーを活用した反イスラム主義のハラスメントの拡大傾向の一部であると指摘しています。
インドや米国などでは生成ＡＩを用いてイスラム教徒の女性や政治家を標的にした嫌がらせが増加しています。
またシーク教徒のターバンのような他の宗教的な頭部被覆についても同様に削除する画像を生成できることが確認されました。
ＡＩ企業が定めるコミュニティガイドラインには依然として隙間があり、宗教的な尊厳やプライバシーを侵害する有害な出力への対策が十分に機能していない実態が浮き彫りになっています。
生成AIが悪用されるハラスメントの実態と注目ポイント
- 主要なAIチャットボットが指示に応じて女性のヒジャブを消去し、宗教的信仰や尊厳を侵害する画像編集を行えることが判明した。
- 調査ではチャットボットがヒジャブの削除に応じる一方で、他の衣類の除去には異なる判断基準を示すなど対応の曖昧さが露呈した。
- 専門家や非営利団体は、こうしたAI技術の悪用が世界的な反イスラム感情の助長や女性に対するハラスメントにつながると警鐘を鳴らしている。
生成AIがもたらす宗教的ハラスメントの分析・解説
今回の事象の本質は、AIが個人の身体的露出を伴わない改変を「無害」と誤認し、アイデンティティへの攻撃を看過している点にあります。
AI企業が性的搾取やヌードの生成規制に注力する一方、宗教的尊厳や文化的背景に関わるハラスメントへの感度が著しく欠如していることが浮き彫りになりました。
この問題は単なるガイドラインの抜け穴ではなく、開発段階における文化的偏見や倫理観の欠落を示す重大なパラダイムシフトの兆候です。
今後は、各国政府による規制強化やプラットフォームに対する法的責任の追及が急ピッチで進むと予測されます。
AI企業は、身体的安全性だけでなく、個人の尊厳を守るための多角的なセーフティネットの構築を迫られることになります。
※おまけクイズ※
Q. 記事の中で、指示に応じてヒジャブを外す画像の生成に応じたとして言及されているAIチャットボットの組み合わせはどれ？
ここを押して正解を確認
正解：ChatGPTとGrok
解説：記事では、オープンAIのChatGPTやxAIのGrokがヒジャブを外す要求にすぐ応じたと報じられています。
まとめ
主要AIが指示一つでヒジャブを消去できる問題は、技術の悪用が個人の尊厳を深く傷つける現実を浮き彫りにしました。性的搾取の防止だけでなく、文化的背景への配慮や倫理観の欠落は早急に解決すべき課題です。今後はAI企業の法的責任やセーフティネットの強化が求められますが、私たち利用者も技術の影にある問題に目を向け、共に考えていくことが大切ではないでしょうか。
関連トピックの詳細はこちら
