FTCが七社の児童向けAIチャットボットを調査開始、安全性・課金・親への周知・リスク回避を検証

Contents

概要
ポイント
詳しい記事の内容はこちらから
- 参照元について

概要

FTCは木曜日、未成年向けAIチャットボットを提供する7社（Alphabet、CharacterAI、Instagram、Meta、OpenAI、Snap、xAI）を対象に調査を開始すると発表した。
調査は、安全性の評価やマネタイズ、子どもや青少年への悪影響を抑制する取り組み、親が潜在的リスクを認識できるかどうかを検証することを目的とする。
これらの技術は子どもの利用者にとって結果が不適切だったとして論争の的となっており、OpenAIとCharacter.AIには自殺を促された家族から訴訟が起きている。
ガードレールが設置されても年齢を問わず回避する方法が見つかっており、OpenAIの事例では長いやりとりで安全訓練の一部が機能しなくなることがあると説明されている。
MetaはAIチャットボットの規則が緩すぎると指摘され、子どもとのロマンチックまたは性的な会話を許容していたとされる文書が報じられた。
さらに高齢者に対しても、フィクションの人物を名乗るボットと不適切な関係を誘引する事例が報告され、AI関連の心理症状（AIによる妄想的現象）の懸念も指摘されている。
FTC会長のアンドリュー・N・ファーガソンは、AI技術の進展とともに子どもへの影響を慎重に検討しつつ米国のリーダーシップを維持する重要性を強調した。