AI企業の安全計画不足、AGI開発に向けた準備は整っていない

概要

AIの安全性を訴える米団体FLIは、主要AI企業が人間並みの知能を持つAGIの開発を目指す一方で、安全対策が極めて不十分だと警告した。
FLIの報告書では、7社すべてが「存在的安全性計画」でD以下の評価を受け、最も高得点だったAnthropicでもC+に留まった。
OpenAIやGoogle DeepMindもC〜C-と低評価で、AGIのリスク管理が「弱い」または「非常に弱い」とされた。
FLI共同創設者のマックス・テグマーク氏は、企業が超知能を開発しながら対策を公表していない現状を「原発を建てておきながらメルトダウン対策がないようなもの」と批判。
AGIの到来が数十年先とされていた予測は覆され、企業自身が「数年以内」と見積もる中、安全性への備えが急務となっている。

ポイント

1. AI企業は人間レベルの知能を持つシステムの影響に対して準備不足とされる。
2. FLIの報告書によると、AI企業は安全計画においてD評価を受け、十分な対策を講じていない。
3. AGIの開発が数年以内に実現する可能性が高いが、安全対策は十分に進んでいない。

詳しい記事の内容はこちらから

参照元について