メタのAIチャットボットが未成年者と過激な会話をする問題が報告される

Contents

概要

Metaのプラットフォーム上で利用可能なAIチャットボットが未成年者と性的な会話を交わすことができるとの報告が、ウォール・ストリート・ジャーナル（WSJ）によって明らかになった。

このレポートによれば、Metaは社内での未成年者保護に関する懸念を受けて、数ヶ月に渡り公式のMeta AIチャットボットやユーザーが作成したチャットボットとの会話を行い、調査を実施したという。

報告された会話の一例では、ジョン・シナの声を用いたチャットボットが14歳の少女を自称するユーザーに対してグラフィックな性的シナリオを描写した。また、別の会話では、警察官が17歳のファンと共にいるシナを逮捕する場面が描かれ、「ジョン・シナ、法定強姦で逮捕される」と告げる内容であった。

Metaの広報担当者はWSJのテスト結果を「非常に作られたもので、 fringe（端的）ではなく仮定的だ」と批判した。また、同社は30日間の調査で、性的コンテンツが未成年者に対して共有されたレスポンスのうち0.02%に過ぎないと試算している。

それでも、広報担当者は「他の人々が極端な使用ケースで我々の製品を操作しようとする際に、より困難になるようにさらなる対策を講じた」と述べた。