メタの子供向けAIが危険？ Hawley議員が調査へ

Contents

概要
ポイント
詳しい記事の内容はこちらから
- 参照元について

概要

上院議員ジョッシュ・ホーリーは、Metaの生成型AI製品が子供たちに対して搾取、欺瞞、害をもたらしている可能性を調査する意向を示した。
これは、Metaのチャットボットが子供と「ロマンチック」や「官能的」な会話を許可されていた内部資料の漏洩を受けたものである。
ホーリーは、Metaが幼い子供との性的な会話を容認していたガイドラインの存在や、その内容に疑問を呈し、「大手テック企業は短期的な利益のために何でもするのか？」と批判した。
彼が率いる上院司法小委員会は、Metaの技術が子供に害を及ぼしているかどうか、また同社が規制当局や公衆に対して誤情報を流していたかを調査する予定だ。
報道によると、Metaのガイドラインには、8歳の子供とロマンチックな会話を許可し、「あなたは宝石のような存在」といった内容も含まれていたことが明らかになったが、Metaはこれらの例は同社の方針に沿わないとし、既に削除しているとしている。
ホーリーはZuckerbergに宛てた書簡の中で、「このような不適切な方針が承認されたことは許しがたい」と述べ、誰がこれを承認し、どのくらい続いていたのか、また今後再発防止のために何をしているのかを明らかにするよう求めている。
Metaは、調査のためにガイドラインの草案や規定に従った製品リスト、セーフガードに関する報告書などの提出期限を9月19日としている。
この調査には共和党のマルシャ・ブラックバーン上院議員も支持を表明し、「Metaは子供たちのオンライン保護に失敗している」と厳しい批判を展開している。
この状況は、子供の安全を守る法律の必要性を浮き彫りにし、今後の規制強化へとつながる可能性が高い。