【衝撃】AIの会話も暗号化？シグナル開発者がMeta AIにプライバシー技術Conferを導入！
AIとプライバシーのニュース概要
プライバシー擁護活動家であり、セキュアなコミュニケーションアプリ「シグナル」や広く利用されているオープンソース暗号化プロトコルを開発したモクシー・マーリンスパイク氏は、自身のプライバシー重視のAIプラットフォーム「コンファー」の技術を、メタ社のAIシステムに組み込むことを発表しました。
現在、シグナル、メタ社の「ワッツアップ」、アップルの「メッセージ」などを通じて日々送られる数十億件のチャットメッセージは、エンドツーエンド暗号化によって保護されています。
しかし、生成AIプラットフォームの人気が高まるにつれて、AIチャットボットとの間で日々送られるメッセージは、エンドツーエンド暗号化の保護を受けないため、AI企業が会話内容にアクセスすることが容易になっています。
プラットフォーム側は、AIモデルのトレーニングに可能な限り多くのユーザーデータを利用したいと考えており、情報利用に関するオプトアウトを困難にしています。
マーリンスパイク氏は、大規模言語モデル（LLM）の能力が向上するにつれて、より多くのデータがLLMに流れ込むと予想し、現在のデータはプライベートではなく、企業、従業員、ハッカー、 subpoena、政府によって共有されると指摘しています。
彼は、コンファーのプライバシー技術を「メタAI」の基盤に統合することを目指しており、コンファーはメタ社から独立して運営され続けるとのことです。
ワッツアップの責任者であるウィル・キャスハート氏は、AIが個人情報を含む機密情報にアクセスする必要がある場合があるため、プライバシーを保護した技術を構築することが重要だと述べています。
暗号化されたAIの採用はまだ初期段階であり、従来のデジタル通信で使用される暗号化方式を、生成AIのデータ保護に直接適用することは容易ではありません。
ニューヨーク大学の暗号研究者であるマロリー・クノデル氏は、コンファーは完璧ではないものの、プライベートなAIチャットボットを構築するための重要な例であると評価しています。
Confer技術の注目ポイント
- モクシー・マースリンスパイク氏が、MetaのAIシステムにプライバシー技術Conferを統合。AIとの会話を暗号化し、情報漏洩を防ぐ。
- AIチャットボットは通常、エンドツーエンド暗号化を提供せず、会話内容がAI企業にアクセス可能。Conferは、この状況を改善する技術を提供する。
- Conferの技術は、AIの能力を損なわずに会話のプライバシーを保護することを目指す。Metaとの協業により、暗号化AIの普及が期待される。
暗号化AIの分析・解説
この提携は、AIとプライバシー保護のトレードオフという根源的な問題に焦点を当てています。
生成AIの進化は、ユーザーデータの収集と利用を加速させ、プライバシー侵害のリスクを高めています。
Moxie Marlinspike氏のConfer技術をメタ社のAIシステムに組み込む動きは、この状況を打破する可能性を秘めています。
単なる技術統合ではなく、AI開発におけるパラダイムシフトの兆しが見られます。
エンドツーエンド暗号化をAIの領域に適用することは、技術的な難易度が高いものの、ユーザーのプライバシーを尊重するAIの実現に不可欠です。
メタ社がこの技術を採用することは、他の大手テック企業にも同様の動きを促す可能性があります。
今後は、Confer技術がメタ社のAIシステムにどのように組み込まれるか、そしてその効果がどの程度期待できるかが注目されます。
また、暗号化されたAIが、AIモデルの学習効率や性能にどのような影響を与えるのかも重要な検証ポイントとなるでしょう。
プライバシー保護とAIの進化を両立させるための技術開発競争が激化すると予想されます。
※おまけクイズ※
Q. 記事の中で、AIチャットボットとの会話がエンドツーエンド暗号化の保護を受けないことで、誰が会話内容にアクセスすることが容易になっていると指摘されていますか？
ここを押して正解を確認
正解：AI企業
解説：記事の中盤で、生成AIプラットフォームの人気が高まるにつれて、AI企業が会話内容にアクセスすることが容易になっていると述べられています。
詳しい記事の内容はこちらから
参照元について
