中国政府がAIを駆使して情報統制を強化する最新の状況とは

Contents

概要

中国政府が開発したAIシステムが、従来の検閲手法を超えて、オンラインでの情報統制を強化していることが明らかになった。

このシステムは、133,000件のセンシティブなコンテンツを自動的に検出するために設計されており、特に政治や社会問題に関連する内容を優先的にフラグ付けする。

UCバークレーの研究者、シャオ・チアンは、このデータセットが中国政府の抑圧を強化するためにLLM（大規模言語モデル）が利用されている明確な証拠であると指摘している。

従来の検閲は人手によるキーワードフィルタリングに依存していたが、LLMを用いることで、より効率的かつ詳細な情報制御が可能になる。

データセットは、セキュリティ研究者によって発見され、無防備なサーバーに保存されていた。内容には、地方の貧困や腐敗した警察に関する苦情、台湾に関する言及が含まれており、特に社会不安を引き起こす可能性のあるトピックが多く見られる。

このシステムは、政府のナラティブを保護し、異なる意見を排除することを目的としており、習近平国家主席はインターネットを「公共意見工作の最前線」と位置付けている。

AIを利用した検閲は進化しており、従来の手法よりも洗練された形で国家の言論統制を強化している。