【衝撃】国防総省vsアントロピック、AI提携決裂寸前！監視・自律兵器利用で激論勃発

AI提携破綻のニュース概要

アメリカ国防総省と人工知能（AI）企業アントロピックの提携が、契約締結期限を前に破綻の危機に瀕している。

国防総省はアントロピックに対し、AIモデル「クロード」を「全ての合法的目的」に利用できるよう許可するか、多額の契約を失うかの選択を迫っている。アントロピックは、自社のAIモデルがアメリカ国民の大量監視や自律的な軍事作戦に利用されることを明確に禁止する条項を求めている。

国防総省のチーフ・テクノロジー・オフィサーであるエミル・マイケルは、国防総省が合意に向けて「非常に良い譲歩」をしてきたと主張する一方、アントロピックは国防総省の譲歩が不十分だと反論し、マイケルはアントロピックの最高経営責任者（CEO）を「嘘つき」と批判した。

国防総省は、アメリカ国民の監視を制限する連邦法を遵守することを明記し、自律型兵器に関する国防総省の長年の政策を認識すると約束した。しかし、アントロピックによる大量監視や人間の関与なしの最終的な標的決定へのAI利用の禁止を明記することを拒否している。マイケルは、これらの利用は既に法律と国防総省の方針で禁止されていると主張し、「軍を信頼すべきだ」と述べている。

アントロピックは、新たな契約案が大量監視や自律型兵器への利用を防ぐ上で「ほとんど進歩がない」と表明。CEOのダリオ・アモデイは、国防総省の脅迫に屈しないと述べた。マイケルはアモデイを「嘘つき」と非難し、アントロピックがアメリカの安全を危険にさらしていると批判した。

期限までに合意に至らない場合、国防総省はアントロピックとの提携を解消し、サプライチェーンリスクに指定する方針。また、国防生産法を適用してアントロピックに要求を遵守させることも検討している。

今回の対立は、AIのリスク軽減に関する政策立案者とテクノロジー企業の間のより広範な意見の相違を浮き彫りにしている。アモデイはAIの潜在的な危険性について繰り返し警告しており、安全性を重視している。一方、トランプ政権は、厳格なAI規制がイノベーションを阻害し、アメリカのAI産業の競争力を低下させると主張している。

国防総省とアントロピックの注目ポイント

1. 米軍とAnthropic社の提携は、AIモデルの利用条件を巡り破談寸前。Anthropic社は、米国民の監視や自律兵器への利用を明示的に禁止するよう求めている。
2. 国防総省は、Anthropic社に対し、AIモデルの「合法的利用」を認めるか、契約解除も辞さない姿勢。しかし、Anthropic社は、提示された条件では懸念が解消されないと反論している。
3. 今回の対立は、AIの潜在的リスク軽減策を巡る政策立案者とテック企業の意見の相違を浮き彫りに。AIの安全性と軍事利用のバランスが課題となっている。

AI軍事利用の分析・解説

アメリカ国防総省とAI企業Anthropicとの提携が破綻の危機に瀕している。
国防総省はAnthropicに対し、AIモデルの「全ての合法的目的」での利用を認めるか、多額の契約を失うかの二者択一を迫っている。
Anthropic側は、アメリカ国民の大量監視や自律的な軍事作戦への利用を明示的に禁止する条項を求めている。
国防総省の技術責任者は、一部譲歩を行ったと主張するも、Anthropicは不十分だと反論し、両者の溝は深まっている。
国防総省は連邦法による監視制限を明記する用意があるとする一方、Anthropicが求める監視禁止や自律的ターゲティングの禁止には難色を示している。
国防総省は、中国などの競合国のAI開発に対抗するため、自国の安全保障を優先する必要性を強調している。
Anthropicは、AIシステムの信頼性やプライバシー侵害のリスクを懸念し、自律型兵器への利用には反対している。
この対立は、AIのリスク管理に関する政策立案者と技術企業の間のより広範な意見の相違を浮き彫りにしている。
国防総省は、Anthropicとの提携を解消し、Defense Production Act（国防生産法）の適用も検討している。
この問題は、AI技術の軍事利用における倫理的、法的、戦略的な課題を改めて認識させる事例となっている。

詳しい記事の内容はこちらから

参照元について