【衝撃】国防総省、OpenAIと契約！Anthropicを「安全保障リスク」と排除
国防総省とOpenAI契約の概要
オープンAI（OpenAI）は先月遅く、国防総省と契約を締結した。
これは、ライバル企業であるアントロピック（Anthropic）が、ピート・ヘゲセット国防長官によって「国家安全保障に対するサプライチェーンリスク」と見なされ、ブラックリストに載せられた直後だった。
マーク・ケリー上院議員は、オープンAIの最高経営責任者（CEO）であるサム・アルトマン氏との面会で、同社の戦争に対するアプローチや国防総省との最近の取引について「深刻な疑問」を提起した。
アントロピックは国防総省との契約再交渉を試みていたが、技術の利用方法に関する意見の相違により交渉は行き詰まった。
国防総省はアントロピックに対し、合法的な目的であればモデルへの無制限のアクセスを許可するよう求めたが、アントロピックは自社のモデルが完全自律型兵器や国内での大規模監視に使用されないことを保証するよう求めた。
アルトマン氏は、国内での大規模監視の禁止と、自律型兵器システムを含む武力の行使における人間の責任が、同社にとって「最も重要な安全原則」であると述べている。
国防総省もこれに同意し、契約に盛り込んだという。
オープンAIは契約の一部を公開し、国防総省が「合法的な目的であればAIシステムを使用できる」と明記されていることを明らかにした。
ケリー上院議員は、AI組織との国防総省の契約に関する規制を定める法案の起草に向けて他の上院議員と協力しており、議会が「役割を果たす必要がある」と述べた。
また、この技術の進歩が速いため、議会が定めるべき境界線や規制を設ける必要があると強調した。
アントロピックと国防総省の対立は、ワシントンに衝撃を与えた。
多くの関係者はアントロピックのモデルを優れていると見ており、同社の既存の防衛請負業者との統合能力を評価していた。
AI軍事利用の注目ポイント
- OpenAIは米国防総省と契約、ライバル企業Anthropicは安全保障上のリスクと判断され、契約を停止された。
- OpenAIのCEO、サム・アルトマンは、AIの軍事利用や自律型兵器システムに関する懸念を議会で表明した。
- 米国防総省との契約では、AIの利用目的は合法的な範囲に限定されるが、監視や自律兵器への懸念は残る。
AI提携の倫理的分析・解説
OpenAIとアメリカ国防総省（DOD）の提携は、競合のAnthropicが国家安全保障上のリスクとして排除された直後に行われた。
この状況は、AI技術の軍事利用に対する懸念の高まりを示唆している。
国防総省は、AIモデルへの無制限アクセスを求めた一方、Anthropicは自律型兵器や国内での大規模監視への利用を拒否した。
OpenAIは、同様の懸念に対応するため、契約に安全対策を盛り込んだと主張している。
しかし、契約条項は「合法的な目的」での利用を認めており、解釈の余地を残している。
この提携は、AI開発企業と政府間の協力関係を深める一方で、倫理的・法的な課題も浮き彫りにした。
特に、AIが「キルチェーン」に組み込まれる可能性は、憲法との整合性や人道的観点から議論を呼ぶ。
上院議員は、DODとのAI関連契約を規制する法案の作成を検討しており、議会がAI技術の軍事利用に一定の役割を果たす必要性が示唆されている。
Anthropicの事例は、AI企業が技術の利用目的について明確な制限を求める姿勢を示しており、今後のAI開発における倫理的ガイドラインの重要性を強調している。
この状況は、AI技術の急速な進歩と、それに対する社会的な対応の遅れとの間のギャップを浮き彫りにしている。
※おまけクイズ※
Q. 記事の中で、サム・アルトマン氏が同社にとって「最も重要な安全原則」として挙げたものは？
ここを押して正解を確認
正解：国内での大規模監視の禁止と、自律型兵器システムを含む武力の行使における人間の責任
解説：記事の後半で、アルトマン氏の発言として具体的に記述されています。
詳しい記事の内容はこちらから
参照元について
