【重要】AI業界に衝撃！州検事総長が「妄想的出力」を警告、内部対策を求める─54社がサインした要請書の真相とは？

ニュース概要

最近、AIチャットボットに関連する精神衛生の問題が相次ぎ、複数の州の司法長官がAI業界の主要企業に対して、妄想的な出力を改善しないと州法違反のリスクがあると警告する手紙を送りました。

この手紙には、Microsoft、OpenAI、Googleを含む多くのAI企業の署名があり、ユーザー保護のために新たな内部安全策を導入するよう求めています。これには、第三者による大規模言語モデルの透明な監査や、心理的に有害な出力が生成された際のユーザー通知システムの導入が含まれています。

手紙では、Generative AI（GenAI）が社会に良い影響を与える可能性がある一方で、特に脆弱な人々に深刻な害をもたらす可能性も指摘されています。また、AIによる妄想を助長する出力に関するメンタルヘルス事件の取り扱いについても、サイバーセキュリティの事件処理と同様の透明なポリシーを策定するよう求めています。

さらに、AIモデルに対する合理的で適切な安全テストを導入し、モデルが公に提供される前に潜在的に有害な出力を防ぐことが求められています。

一方、連邦レベルではAIに対する受け入れが広がっており、トランプ政権は州のAI規制を制限する動きを見せています。トランプは来週に行政命令を発布し、州によるAIの規制を阻止する意向を表明しています。

ポイント

1. 州検事総長がAI企業に「妄想的な出力」を改善するよう警告。
2. 企業はメンタルヘルス事故をサイバーセキュリティと同様に扱うべき。
3. 新しい安全テストを導入し、危険な出力を公開前に防ぐ必要がある。

ニュース分析・解説

AIチャットボットに関するメンタルヘルスの問題が指摘された中、米国の州検事総長が主要AI企業に対し、誤った出力の修正を求める書簡を送付しました。この動きは、AI規制を巡る州と連邦政府間の緊張を反映しています。新たな内部安全策として、サードパーティによる監査やインシデント報告の透明性を求めています。特に、心理的に有害な出力が社会に与える影響を考慮すると、企業の責任は重大です。

今後、これらの規制が実現すれば、AIの研究開発は透明性を持ちつつ進むことが期待されます。しかし、連邦政府がAIを推進する意向を示す中で、州レベルの規制がどのように調和するのかは注目されます。法的枠組みの変化は、AI業界の進化に影響を与えるでしょう。将来的には、メンタルヘルスへの影響を考慮したAIの設計が進めば、より安全で効果的な技術革新につながるかもしれません。

詳しい記事の内容はこちらから

参照元について