【衝撃】OpenAI、国防総省とのAI取引を謝罪！監視利用を禁止へ

OpenAI国防総省契約の概要

オープンAIのサム・アルトマンCEOは、米国防総省との最近の取引に関して、急いだことを後悔する声明を発表した。
同CEOは、契約内容を修正し、AIシステムが米国居住者および国民に対する国内監視に意図的に使用されないことを明記すると述べた。
これは、ドナルド・トランプ大統領が連邦機関に対し、ライバル企業であるアントロピックのツール利用を停止するよう指示した直後、そしてイランへの攻撃が計画されていた直前の出来事に続くものだ。
アルトマンCEOは、米国防総省がオープンAIのツールをNSAなどの情報機関で使用しないことを確認したと付け加えた。
技術がまだ成熟しておらず、安全性を確保するためのトレードオフを十分に理解していないことを認め、国防総省と技術的な安全対策に取り組む意向を示した。
また、金曜日に取引を急いだことは誤りだったと認め、機会主義的に見え、ずさんだったと反省した。
アントロピックとワシントンとの間で、AIシステムの安全対策を巡る対立があり、合意に至らなかった経緯も明らかになった。
アントロピックは昨年、米国防総省の機密ネットワークに初めてモデルを導入した企業である。
同社は、国内での監視や、人間の制御なしに自律型兵器を運用・開発することへの利用を避けるための保証を求めていた。
今回のオープンAIと国防総省との取引のタイミングは、オンラインで批判を招き、多くのユーザーがChatGPTからClaudeへの乗り換えを行ったと報告されている。
アルトマンCEOは、アントロピックがサプライチェーンリスクとして指定されるべきではないと述べ、国防総省に対し、オープンAIと同様の条件を提供するよう求めた。
アントロピックは2021年に、元オープンAIのスタッフや研究者によって設立された。

AI利用の注目ポイント

1. OpenAIのサム・アルトマンCEOは、米国国防総省との契約を急いだことを認め、国内監視目的での利用禁止などを盛り込んだ修正を表明。
2. Anthropicとの交渉決裂後、OpenAIとの契約締結のタイミングが批判を招き、アルトマンCEOはAnthropicへの配慮も表明。
3. AIの安全性に関する懸念から、OpenAIも国防総省に対し、技術的な安全対策の協力を要請している。

AI安全性の分析・解説

OpenAIのサム・アルトマンCEOは、米国国防総省との契約に関して、時期尚早だったと認める声明を発表した。
この契約は、ドナルド・トランプ大統領がAnthropic社のツール利用を停止する指示を出した直後、イランへの攻撃実施時間間近に締結された。
アルトマンCEOは、国内監視目的での利用禁止条項を追加し、NSAなどの情報機関による利用も制限すると表明した。
今回の事態は、AIの安全保障利用における倫理的課題と、企業側の対応の難しさを浮き彫りにした。
Anthropic社との対立、およびOpenAIへの有利な条件提示の背景には、政府側のAI安全に対する懸念の違いが存在すると考えられる。
この契約は、AI技術の軍事利用に関する議論を加速させ、今後の国際的な規制のあり方に影響を与える可能性がある。
また、消費者の反応は、AI企業の倫理的責任に対する意識の高まりを示唆している。
OpenAIとAnthropic社の競争は、AI開発における安全性の重要性を改めて認識させる契機となるだろう。
国防総省との契約を急いだことへの反省は、今後のAI企業が政府との連携を検討する際の教訓となる。
AI技術の進化と社会への影響を考慮し、慎重な意思決定が求められる。

詳しい記事の内容はこちらから

参照元について