概要
MetaのCEOであるマーク・ザッカーバーグは、将来的に汎用人工知能（AGI）を公開することを約束していますが、新しいポリシー文書「Frontier AI Framework」では、特定の状況下でリリースしない場合があることが示されています。この文書では、サイバーセキュリティや化学・生物攻撃を支援する能力を持つ「高リスク」および「重大リスク」の2種類のAIシステムが定義されています。「重大リスク」システムは「提案された展開コンテキストでは緩和できない壊滅的な結果」を引き起こす可能性があり、「高リスク」システムは攻撃を容易にする可能性があるものの、重大リスクほど確実ではないとされています。Metaはこれらのリスクの評価を定量的な指標ではなく、内部および外部の研究者の意見に基づいて行っています。高リスクと判断されたシステムは内部でのアクセスが制限され、リリース前にリスク軽減策が講じられます。一方、重大リスクと判断されたシステムは開発が一時停止され、セキュリティ対策が講じられます。Metaのこのフレームワークは、AIのリスクと利点を両立させることを目指しています。
ポイント
- MetaはAIシステムを「高リスク」と「重大リスク」に分類し、そのリスクに応じた対策を実施
- リスク評価は内部および外部の研究者の意見に基づき、定量的指標は使用しない
- 高リスクシステムはリリース前にリスク軽減策を講じ、重大リスクシステムは開発を一時停止
詳しい記事の内容はこちらから
情報の信ぴょう性
プロフィール
TechCrunchは、2005年6月にマイケル・アーリントンとキース・ティアーによって設立されたテクノロジーニュースサイトです。
本社はカリフォルニア州サンフランシスコにあります。
TechCrunchは、主にスタートアップやハイテク企業に関するニュース、レビュー、インタビューなどを提供しています。
2010年にはAOLによって買収され、その後、2021年にはApollo Global ManagementがTechCrunchを含むベライゾンメディアの資産を買収しました。
TechCrunchは、毎年世界各地で開催される「TechCrunch Disrupt」というイベントでも知られています。
信ぴょう性
TechCrunchは、信頼性の高い情報源とされていますが、一部の批判もあります。
Ad Fontes Media（※1）によると、TechCrunchは「信頼できる」情報源として評価されており、中立的な報道を行っているとされています。
ただし、一部の記事にはバイアスが見られることもあるため、常に複数の情報源を参照することが重要です。
※1
Ad Fontes Mediaは、2018年にヴァネッサ・オテローによって設立された非営利団体で、メディアの信頼性と偏見を評価することを目的としています。彼らは「メディア偏見チャート」を提供しており、これはメディアの政治的偏見と信頼性を視覚的に示すものです。
