【警告】インスタグラム、自殺・自傷行為検索で保護者に警告！マーク・ザッカーバーグCEOも出廷

インスタグラム警告のニュース概要

メタ・プラットフォームズのマーク・ザッカーバーグ最高経営責任者（CEO）は、カリフォルニア州ロサンゼルスで裁判所から出た。
インスタグラムは、10代のユーザーが自殺や自傷行為に関するキーワードを繰り返し検索した場合に、保護者に警告を発する機能を追加すると発表した。
この機能は、保護者がそのようなコンテンツを検索していることを知り、支援するためのリソースを提供することを目的としている。
今回の保護者向け監督機能の導入は、インスタグラムのようなアプリのデザインや機能が、若年層の精神的健康に悪影響を与えるという告発を受けてのものだ。
グーグルのYouTube、TikTok、スナップといった企業が関与する訴訟は、社会メディア業界にとって「タバコ業界」の再来と捉えられている。
裁判所は、これらの製品が引き起こす可能性のある害や、それらの悪影響について公衆を誤った方向に導こうとしたとされる努力について判断を下すことになる。
インスタグラムの警告機能は、来週からアメリカ、イギリス、オーストラリア、カナダで展開を開始する。
保護者への警告は、10代のユーザーが短期間に「自殺を助長するフレーズ」「自傷行為を示唆するフレーズ」「自殺や自傷行為といった用語」を繰り返し検索した場合に送信される。
メタ社は、警告を送る基準について、これが「適切な出発点」であるとし、フィードバックを参考に改善していく方針を示している。
保護者は、メール、テキストメッセージ、WhatsApp、またはインスタグラム内で警告を受け取ることができる。

若年層向け機能の注目ポイント

1. インスタグラムは、ティーンが自殺・自傷に関するキーワードを繰り返し検索した場合、保護者に警告を発信する機能を追加。
2. この機能は、保護者がティーンの精神的な健康をサポートするためのリソースを提供することを目的としている。
3. SNS企業に対する訴訟が増加する中、インスタグラムは若年層への悪影響を抑制する措置としてこの機能を導入した。

SNSとメンタルヘルス分析・解説

メタ・プラットフォームズのマーク・ザッカーバーグCEOが裁判所に出席したという報道は、ソーシャルメディア企業と若年層のメンタルヘルス問題に関する法的責任の所在を問う動きの表れである。

インスグラムが自殺や自傷行為に関連するキーワードの検索に対し、保護者に警告を発する機能を導入したことは、企業側の対策強化を示す。

しかし、この機能は「ビッグ・タバコ」に例えられるソーシャルメディア業界の法的リスクを回避するための、事後的な対応に過ぎない可能性も否定できない。

警告の頻度や基準設定の難しさ、誤検知のリスクも指摘されており、プライバシーとの兼ね合いも考慮する必要がある。

今回の措置は、アメリカ、イギリス、オーストラリア、カナダで開始されるが、グローバル展開の遅れは、問題意識の地域差を示唆する。

今後は、AIを活用したより高度なメンタルヘルスリスク検知技術の開発や、プラットフォームのデザイン自体を見直すなど、根本的な対策が求められるだろう。

ソーシャルメディア企業は、法的責任を果たすだけでなく、若年層の健全な成長を支援する社会的責任を自覚する必要がある。

詳しい記事の内容はこちらから

参照元について