【衝撃】国防総省vsアントロピック：AI利用制限で契約禁止の危機！

AI利用制限のニュース概要

アメリカ国防総省は、エヌビディアを含むAI企業に対し、AI技術の無制限利用を求めるか、政府との契約を禁止するかの二択を提示した。
この問題の中心は、AIモデルの利用方法を国防総省がコントロールするか、企業側がコントロールするかという点にある。
国防総省は7月にアントロピックと2億ドルの契約を締結し、アメリカの国家安全保障を強化するAI能力の開発を推進している。
オプンAIやグーグル、xAIも同様の契約を獲得している。
アントロピックのAIモデル「クロード」は、データ分析大手パランティアとの提携により、国防総省の機密ネットワークで初めて展開されている。
イーロン・マスク氏のxAIが開発する「グロック」も、機密環境での利用に合意している。
国防総省はAIの活用を加速させ、情報データの迅速な変換や兵士の戦闘能力向上を目指している。
今回の対立は、国防総省が1月にベネズエラ元大統領ニコラス・マドゥロ氏を拘束する作戦で「クロード」を使用したことがきっかけとなったと報じられている。
アントロピック側は、アメリカ国民の大量監視や人間の関与なしに軍事作戦の最終的な標的決定に「クロード」を使用しないよう、一定の制限を設けることを求めている。
国防総省は、アントロピック側の制限が、例えばアメリカ本土に向けて発射された大陸間弾道ミサイルへの対応など、重要な行動を妨げる可能性があると懸念している。
アントロピックのCEOダリオ・アモデイ氏は、AIの潜在的な危険性について警告し、安全性と透明性を重視する姿勢を示している。
一方、国防長官ピート・ヘグセス氏は、AIモデルが「戦争を遂行することを妨げるような社会正義の概念を取り入れて混乱させるべきではない」と批判し、国防総省のAIは「目覚めすぎず、機能する」べきだと主張している。
ヘグセス氏はアントロピックに対し、無制限の利用に同意するよう求める期限を設けており、合意に至らない場合は、国防生産法を適用するか、サプライチェーンリスクとして排除することを検討している。

国防総省とアントロピックの注目ポイント

1. 米国国防総省は、AI企業アンソロピックに対し、技術の無制限利用か、政府契約禁止かを迫っている。
2. アンソロピックは、AIの悪用防止のため、米国防総省による国民監視や自律兵器利用の制限を求めている。
3. 国防総省は、AIの制限が緊急時の対応を妨げると懸念し、必要であれば国防生産法を動員する構え。

AIガバナンスの分析・解説

米国国防総省とAnthropic社の間で、AI技術の利用制限を巡る対立が深刻化している。
国防総省はAnthropicに対し、AI技術への無制限アクセスを求め、拒否すれば政府との契約を禁止する姿勢を示した。
この問題は、AIモデルの利用方法を国防総省が統制するのか、Anthropic社が統制するのかという、AIガバナンスの根幹に関わる。
Anthropic社は、自社モデルClaudeの利用における制限、特に米国市民に対する大規模な監視や、人間の判断なしでの最終的な軍事目標決定への利用を禁じることを求めている。
国防総省側は、これらの制限が緊急時の対応を妨げる可能性を懸念し、大陸間弾道ミサイル攻撃への対応など、安全保障上の理由から無制限のアクセスが必要だと主張している。
Anthropic社のCEOはAIの潜在的危険性を警告し、安全性と透明性を重視する姿勢を明確にしている。
一方、国防総省は「実戦に耐えうる」AIモデルを求めており、イデオロギー的な制約を排除することを強調している。
国防総省は、国防生産法を動員してAnthropic社に協力を強制したり、サプライチェーンリスクとして排除したりすることも検討している。
この対立は、AI技術の軍事利用における倫理的、法的責任の所在を明確にする必要性を示唆している。

詳しい記事の内容はこちらから

参照元について