【速報】AI「クロード」開発のAnthropicと米ペンタゴン、国防生産法もちらつく深刻な対立勃発！
ペンタゴンとAI協議のニュース概要
米国防ペンタゴンとエヌビディアのAIモデルを提供するアントロピックとの間で信頼関係が崩れつつある。
情報筋によると、ピート・ヘゲセット国防長官はアントロピックのダリオ・アモデイCEOに対し、今週中にAIモデルへの完全なアクセスを認める署名済みの文書を提出するよう求めた。
ペンタゴンは、アントロピックが要求に応じない場合、国防生産法を適用することも検討している。
国防当局は、アントロピックから2億ドルの契約を獲得し、米国の国家安全保障を強化するためのAI能力を開発することを期待している。
アントロピックは、AIモデル「クロード」による米国市民の大量監視を制限するガードレールについて、国防総省に合意を求めている。
国防当局は、そのような行為は違法であり、AIを合法的な活動にのみ使用する許可を求めていると反論している。
アモデイCEOはまた、クロードが人間の関与なしに軍事作戦の最終的な標的決定に使用されることを防ぎたいと考えている。
クロードはハルシネーションを起こす可能性があり、人間の判断なしでは意図しないエスカレーションや任務の失敗につながる可能性があるからだ。
ペンタゴン当局者は、これは大量監視や自律型兵器の使用とは無関係であり、合法的な命令のみを出していると述べている。
イーロン・マスクのxAIが所有するグロックは、機密環境での使用に同意しており、他のAI企業もそれに近いという。
ヘゲセット長官は、政府がボーイング社の航空機を購入する場合、ボーイング社はペンタゴンがどのように航空機を使用するかについて発言権がないとアモデイCEOに伝えた。
アントロピックが期限の金曜日の午後5時までに回答しない場合、ペンタゴンは同社を「サプライチェーンリスク」に指定し、政府からの排除を検討する可能性がある。
アントロピックのスポークスパーソンは、同社がAIモデルを信頼性と責任を持って使用できる範囲内で、政府の国家安全保障ミッションを支援できるよう、使用ポリシーについて誠意をもって協議を続けていると述べた。
AI利用制限の注目ポイント
- ペンタゴンとAnthropicのAIモデル利用めぐり、信頼関係が崩壊。全面アクセスを要求し、合意に至らず。
- Anthropicは、AI「Claude」の米国人監視や自律兵器利用を制限するガードレールを要求。ペンタゴンは合法的な活動のみを意図と反論。
- ペンタゴンはAnthropicへのDefense Production Act適用や、サプライチェーンリスク指定も検討。他社（xAIのGrok等）との連携も模索。
AIサプライチェーンの分析・解説
米国防総省とAnthropicとの間で、AIモデルの利用を巡り信頼関係が崩壊しつつある。
国防長官はAnthropicのCEOに対し、今週末までにAIモデルへの完全アクセスを認める書面を提出するよう求めた。
国防総省は、国防生産法を動員し、Anthropicに要求を遵守させることも検討している。
Anthropicは2億ドルの契約で米国の安全保障を強化するAI能力を開発していた。
Anthropic側は、AIモデル「Claude」による米国市民の大量監視を制限するガードレールを国防総省に求めている。
国防総省は、そのような行為は違法であり、合法的な活動に限定してAIを使用する許可を求めていると反論している。
Anthropicはまた、Claudeが人間の関与なしに軍事作戦の最終的な標的決定に使用されることを阻止したいと考えている。
Claudeは幻覚を起こす可能性があり、人間の判断なしでは致命的な誤りや意図しないエスカレーションを引き起こす可能性があるからだ。
国防総省側は、これは大量監視や自律型兵器の使用とは無関係であり、合法的な命令のみを出していると主張している。
イーロン・マスクのxAIが所有するGrokは、機密環境での使用に合意しており、他のAI企業もそれに近い状況にある。
国防総省は、ボーイング社の航空機を購入した場合と同様に、AnthropicにもAIの使用方法について口出しする権利はないと主張している。
Anthropicを「サプライチェーンリスク」に指定し、政府からの排除を検討する可能性も示唆されている。
Anthropicは声明で、政府の安全保障任務を支援できるよう、モデルが信頼性と責任を持って実行できる範囲内で利用ポリシーについて誠意をもって協議を続けていると述べている。
国防総省はAnthropicに対し、金曜日の午後5時までに回答期限を設けている。
この事態は、AI技術の軍事利用における倫理的・安全保障上の課題を浮き彫りにしている。
今後の展開は、AI開発企業と政府の関係、そしてAI技術の軍事利用のあり方に大きな影響を与える可能性がある。
※おまけクイズ※
Q. 記事の中で、アントロピックがペンタゴンに対し、AIモデル「クロード」に関して求めているものは？
ここを押して正解を確認
正解：米国市民の大量監視を制限するガードレール
解説：アントロピックは、AIモデル「クロード」による米国市民の大量監視を制限するガードレールについて、国防総省に合意を求めています。記事の序盤で言及されています。
