テキサス州法執行官、MetaとCharacter.AIの児童向け偽装心理支援に調査開始

Contents

概要
ポイント
詳しい記事の内容はこちらから
- 参照元について

概要

テキサス州の司法長官ケン・パクストンは、Meta AI StudioとCharacter.AIが「欺骗的な商取引行為やメンタルヘルスツールを装った誤解を招くマーケティング」に関与しているとして調査を開始した。彼は、デジタル時代に子供たちを悪用や誤誘導から守る必要性を強調し、AIプラットフォームが感情的支援を装い、未熟なユーザーに実際の精神医療と誤解させる危険性を指摘した。MetaやCharacter.AIは、医療資格のないAIが「専門的な療法ツール」として誤認される危険性を否定し、適切な免許を持たないことや、限定的な警告表示を行っていると説明している。特に子供がこれらのプラットフォームを利用し、第三者の作成した療法用AIを利用しているケースもあり、懸念が高まる。両社とも13歳未満の子供向けサービスではないと表明する一方で、子供のアカウントやチャットボットの利用状況については実情と異なる運用も指摘されている。Metaはプライバシーポリシーでデータ収集と第三者提供を明示しており、Character.AIもユーザーデータの追跡とターゲティング広告に関する方針を示す。こうしたデータ収集と広告利用は、Kids Online Safety Act（KOSA）などの法規制の対象となる可能性があり、州と連邦の立法動向とともに、これらの企業の責任追及が進んでいる。パクストンは企業に対し、消費者保護法違反の疑いで調査命令を出した。