ChatGPTの精神的健康問題への対応強化、ユーザーの心の問題に対する新たな対策を発表

概要

OpenAIは月曜日に、ChatGPTユーザーの精神的な健康問題に関する新たなデータを発表しました。報告によると、アクティブユーザーの0.15％が自殺の計画や意図を示す会話を行っており、週に100万人以上に影響を及ぼしているとされています。また、ユーザーの一部はChatGPTへの感情的依存や精神病・躁病の兆候を示していることも明らかになりました。

OpenAIは、これらの問題が「非常にまれ」であるため測定が難しいとしつつも、精神的な健康問題に対する改善に努めていると述べ、最新バージョンのGPT-5は以前のモデルに比べて約65％多く「望ましい反応」を示すとしています。また、自殺に関する会話への対応については91％の適切な応答率を達成しています。

同社は、親向けに子どもの使用を検出するシステムや、新たな精神的健康問題の評価基準を導入する予定です。しかし、依然として安全性に関する懸念は残っており、ChatGPTにおける精神的健康問題は解決には時間がかかる可能性があります。

ポイント

1. OpenAIのデータによると、毎週100万人以上が自殺の意図や精神的な問題についてChatGPTと会話している。
2. 最新のGPT-5モデルは、自殺関連の会話において91%の望ましい反応を示し、以前のモデルより安全性が向上。
3. OpenAIは、子供向けに年齢予測システムを導入し、保護者向けの新たなコントロール機能を提供している。

詳しい記事の内容はこちらから

参照元について