中国のスタートアップSand AIが動画生成AIを公開するも政治的表現は厳しく検閲される問題

Contents

概要
ポイント
詳しい記事の内容はこちらから
- 参照元について

概要

中国のスタートアップSand AIが、新たにオープンライセンスの動画生成AIモデル「Magi-1」を発表した。このモデルは、Microsoft Research Asiaの創設者であるKai-Fu Leeなどから高く評価されているが、TechCrunchのテストによると、Sand AIは中国の規制当局が懸念する画像を対象に検閲を行っているようだ。

Magi-1は“自己回帰的”にフレームのシーケンスを予測して動画を生成する能力を持ち、高品質で物理的な正確性を備えた映像を提供すると主張されている。しかし、その性能を発揮するには24億のパラメータを擁し、多くの一般消費者向けハードウェアでは実行が難しい。

このプラットフォームを利用するためには、「プロンプト」となる画像が必要だが、全ての画像が許可されるわけではない。Sand AIは、習近平の画像や天安門広場、タンクマンの写真、台湾の旗、香港の解放を支持する徽章のアップロードを禁止していることが判明した。

また、他の中国のスタートアップであるHailuo AIも、政治的に敏感な画像のアップロードを防いでいるが、Sand AIは特に徹底しており、天安門広場の画像は許可されている。

中国のAIモデルは厳格な情報管理に従う必要があり、2023年の法律では「国家の統一や社会の調和を損なう」コンテンツの生成を禁じている。これに従い、中国のスタートアップはプロンプトフィルタリングやファインチューニングでモデルの検閲を行っている。一方で、政治的な言論の遮断が行われる一方で、ポルノコンテンツへのフィルターはアメリカのモデルより少ないという興味深い現象も見られる。