【衝撃】クロードがチャットGPTをハッキング！72時間未満の侵入劇に世界が震えた理由
クロードによるチャットGPTハッキングのニュース概要
ソフトウェアセキュリティの研究者たちがアントロピック社のAIプラットフォームであるクロードを利用してオープンAI社のチャットGPTツールをハッキングし、先進的な大規模言語モデルがサイバー攻撃に対して脆弱であるという懸念を一段と高めています。
独立系のAIセキュリティプラットフォームであるハクトロンAIの研究者たちがブログ投稿を通じてこの侵入を明らかにしました。
彼らはクロードを使用してオープンAIの従業員のチャットGPTアカウントへのアクセスを獲得し、ソースコードの保管および管理場所に関する重要データの回収に成功しました。
さらにオープンAIのディスカッションフォーラムへのアクセスも果たしました。
初期の発見からオープンAIのリポジトリへのアクセスに至るまでの全プロセスは七十二時間未満で完了したとハクトロンAIは述べています。
ハクトロンAIチームはこの不正侵入をオープンAIに報告し、オープンAIは迅速に対応して研究者たちに六千五百ドルの報奨金を支払いました。
ウォールストリートジャーナルがこのインシデントを最初に報じました。
オープンAIはコミュニティのサインイン用トークンの権限を狭め、影響を受けたトークンやセッションを無効化したと述べています。
このセキュリティ侵害はAIの能力と脆弱性に注目が集まる中で発生しました。
アントロピック社の最高経営責任者であるダリオ・アモデイは最近のインタビューやエッセイにおいてAIの開発スピードを緩める必要性を強く訴えています。
短時間で侵入を成功させたハッキングの注目ポイント
- ハクトロン・AIの研究者がアンソロピックのクロードを活用し、オープンAIのチャットGPTへの不正侵入に成功した。
- 脆弱性の発見からオープンAIのリポジトリへのアクセスに至るまでの所要時間は、わずか72時間未満であった。
- オープンAIは迅速に対応して脆弱性を修正し、セキュリティ研究者に対して6500ドルの報奨金を支払った。
AIを用いたハッキング手法に関する分析・解説
今回のインシデントの本質は、AIがサイバー攻撃の「防御側」から「圧倒的な効率を持つ攻撃の実行者」へと役割を急変させた点にあります。
人間が何週間も要する脆弱性の特定から内部への侵入までを、競合するAIを活用して七十二時間足らずで完遂した事実は、セキュリティの前提を根本から揺るがすパラダイムシフトです。
もはや人間が追いつかない速度でシステムが自動的に攻防を行う「マシーン・スピーディ・サイバー戦」の時代に突入したと言えます。
今後は、AIの自律的ハッキング能力の悪用を防ぐため、モデルの行動規範や出力制限を高度化する「AIによるAIの監視システム」の構築が急務となるでしょう。
開発スピードの抑制を求める声が強まる中、企業は利便性と安全性のバランスを再定義せざるを得ない局面に直面しています。
※おまけクイズ※
Q. ハクトロンAIの研究者たちがオープンAIへのハッキングに利用したAIプラットフォームはどれ？
ここを押して正解を確認
正解：アントロピック社のクロード
解説：記事の序盤で言及されています。ハクトロンAIの研究者たちはアントロピック社の「クロード」を使用してオープンAIのチャットGPTへの不正侵入を行いました。
まとめ
生成AIが別のAIの脆弱性を突いてわずか72時間でハッキングを成功させた今回の事例は、セキュリティの常識を覆す衝撃的な出来事ですね。人間が追いつかないスピードで攻防が進む今、私たちもその脅威と対策を正しく理解する必要があります。今後はAIの安全性をどう担保していくのか、開発のスピード感を含めて企業の真価が問われる重要な転換点になりそうです。
関連トピックの詳細はこちら
