【衝撃】国防総省、AIアントロピック社に最後通牒！2億ドル契約解除も
AI交渉のニュース概要
アメリカ国防総省は、人工知能（AI）技術の利用に関するアントロピック社との交渉で、最終的な提案を提示しました。
交渉に詳しい情報筋によると、国防長官ピート・ヘグセスは、アントロピック社に対し、AI技術の合法的な利用を全て許可するか、アメリカ軍との取引を失う可能性があるという期限を金曜日の夜までに設定しました。
しかし、アントロピック社のCEO、ダリオ・アモデイは声明の中で、国防総省の「脅迫」は自社の立場を変えないと述べました。
アモデイは、国防総省と軍人へのサービスを継続することを希望しており、2つの安全策を設けることを求めています。
アントロピック社の広報担当者は、国防総省の最新の提案は、自社の懸念、特にAIモデル「クロード」がアメリカ国民の監視や自律型兵器の開発に使用される可能性に対処していないと指摘しました。
交渉関係者によると、ヘグセス長官の期限は、アントロピック社が有意義な検討を行う時間を与えないものでした。
アントロピック社は、国防総省が追加した文言は譲歩のように見えるように設計されているものの、実際には制限を自由に無視できる抜け道だと考えています。
国防総省幹部は、アントロピック社が取引を失うだけでなく、サプライチェーンリスクとして指定される可能性があると述べました。
また、国防総省は、アントロピック社にAI技術の完全な制御を求めるために、国防生産法を発動することも検討しています。
アントロピック社は7月に2億ドルの契約を獲得し、アメリカの国家安全保障を強化するためのAI能力を開発しています。
アモデイCEOは、クロードが人間の関与なしに軍事作戦の最終的な目標決定に使用されないことを保証したいと考えています。
クロードは幻覚を起こす可能性があり、人間の判断なしでは致命的な誤りや任務の失敗につながる可能性があるためです。
ヘグセス長官はアントロピック社に対し、AIモデルへの完全なアクセスを許可する署名済みの文書を今週中に提出するよう求めました。
国防総省とアントロピックの注目ポイント
- ペンタゴン（国防総省）は、AI技術の利用に関してAnthropic社と交渉したが、合意に至らなかった。
- Anthropic社は、AIモデル「Claude」がアメリカ国民の監視や自律型兵器に利用されることを懸念し、制限を求めている。
- ペンタゴンは、Anthropic社に完全なアクセス権を求め、拒否した場合、契約解除やサプライチェーンリスク指定も検討している。
AI利用の分析・解説
米国国防総省とAnthropicとの間で、AI技術利用に関する交渉が最終段階に入っている。
国防長官は、AI技術への全面的アクセス許可を与えない場合、200百万ドルの契約を失う可能性を示唆し、事実上の最後通牒を発した。
Anthropicは、AIモデル「Claude」が米国市民の監視や自律型兵器の開発に利用される可能性を懸念し、制限を設けることを求めている。
国防総省側は、合法的な活動に限定した利用を求めており、Anthropicの要求は過剰であると主張している。
今回の対立は、AI技術の軍事利用における倫理的・法的課題を浮き彫りにしている。
Anthropicが要求するセーフガードは、AIの「幻覚」による誤った判断や、意図しないエスカレーションを防ぐための重要な措置と考えられる。
国防総省が国防生産法を動員する可能性も示唆されており、AI技術の安全保障上の重要性が高まっていることが窺える。
この事例は、AI開発企業と政府との間で、技術利用に関する透明性と責任の所在を明確化する必要性を示唆している。
今後の交渉の行方は、AI技術の軍事利用に関する国際的な規範形成にも影響を与える可能性がある。
Anthropicの姿勢は、AI開発企業が倫理的責任を重視する姿勢を示すものとして注目される。
※おまけクイズ※
Q. アントロピック社が特に懸念しているAIモデル「クロード」の利用目的は？
ここを押して正解を確認
正解：アメリカ国民の監視や自律型兵器の開発
解説：記事の中で、アントロピック社は「クロード」がこれらの目的に使用される可能性に対処していないと指摘しています。
