XはAI偽動画に対して厳しい罰則を科し、戦争動画のクリエイターは永久停止の恐れがある
イーロン・マスク率いるソーシャルプラットフォームXは、クリエイターの収益化ポリシーを更新し、AI生成の武装衝突動画を公開しながら出典を明示しなかったクリエイターは、90日間「クリエイター収益分配プログラム」への参加を停止されると発表しました。繰り返し違反した場合は、すべての収益資格が永久に剥奪されます。Xのプロダクト責任者ニキータ・ビアは、今回のポリシー更新はタイムラインの内容の真実性を守ることを目的としていると述べています。
新規ルールの核心：段階的罰則とトリガー条件
Xのクリエイター収益分配プログラムは、資格を満たすアカウントが投稿のインタラクションやサブスクリプションの反応に基づいて収益を得る仕組みであり、収入の主な源泉はXプレミアムの有料ユーザーのインタラクション行動にあります。従来の広告収入モデルとは異なり、新ルールではAI生成動画の開示義務を収益資格の条件に直接組み込みました。
初回違反：90日間「クリエイター収益分配プログラム」からの参加停止
繰り返し違反：すべての収益資格を永久に剥奪
トリガー条件：AI生成と認定された武装衝突や戦争関連の動画を公開し、かつAI由来の開示を行わなかった場合
ニキータ・ビアは、戦争や紛争の期間中において、現場の正確な情報を得ることが極めて重要だと指摘しています。生成型AIツールの普及により、非常にリアルな架空の戦場映像の制作コストが大きく低下しているため、プラットフォームはクリエイターの収益に直接影響を与える制度設計を通じて、コンプライアンスを促進しようとしています。
背景：中東紛争によるAI偽動画の大規模流布
今回のポリシー更新の直接の背景は、最近中東地域で武装衝突が激化した後、多数の戦場からの映像と称する動画がXや他のソーシャルプラットフォーム上で急速に拡散し、その一部がAI合成コンテンツであることが後に判明したことです。
中でも、ドバイのハリファタワー（ブルジュ・ハリファ）が空爆される映像は、Xで800万回以上の再生回数を記録し、同内容の別バージョンはInstagramでも約4万2千回の閲覧を獲得しています。これらはすべて、AI生成の映像であり、実際の戦場映像ではないと確認されています。
この種の問題は初めてではありません。ロシアのウクライナ侵攻中には、ウクライナ大統領ゼレンスキー氏が軍隊に降伏を呼びかける映像が流布されましたが、後にディープフェイク（深層偽造）であると判明し、ゼレンスキー本人も否定の声明を出しています。国連も、ディープフェイクやAI生成メディアが世界の情報信頼性に深刻な脅威をもたらしていると警告しており、特に紛争地域では虚構の映像が大規模に拡散し、憎悪を煽ったり誤った世論誘導に利用されたりする危険性があります。
検出メカニズム：メタデータ、技術的痕跡、コミュニティノートの三位一体
新ルールの実施にあたり、Xは複数の技術とコミュニティのシグナルを統合して違反コンテンツを識別します。具体的には、動画に埋め込まれたメタデータ、生成型AIツールが残す技術的痕跡、そしてプラットフォームの「Community Notes」（コミュニティ事実確認システム）を活用します。もし投稿がAI生成とコミュニティから指摘され、クリエイターが出典を明示しなかった場合、プラットフォームは調査を開始し、規定に従って処分します。
ニキータ・ビアは、罰則を収益資格に直結させることで、虚偽映像を利用した流量や収益の獲得を目的としたクリエイターの動機を根本的に抑制することを狙っています。Xは今後も関連ポリシーを調整し、重大な紛争や突発的な事象の際においても、プラットフォームの情報の信頼性を維持する努力を続けるとしています。
よくある質問
Q1：XはAI戦争動画に対して具体的にどのような罰則を科すのか？
最新のクリエイター収益分配ポリシーによると、初回違反（AI生成の戦争動画を出典明示せずに公開）では、90日間「クリエイター収益分配プログラム」からの参加停止となり、繰り返し違反した場合は、すべての収益資格が永久に剥奪されます。
Q2：Xは未開示のAI生成戦争動画をどうやって検出するのか？
Xは、動画に埋め込まれたメタデータ、生成型AIツールが残す技術的痕跡、「Community Notes」のコミュニティによる事実確認システムの三つの方法を組み合わせて検出します。もし投稿がAI生成と指摘され、出典を明示しなかった場合、調査と処分の対象となります。
Q3：Xのクリエイター収益分配プログラムの収益源は何か？
Xの「Creator Revenue Sharing」は、資格を満たすアカウントが投稿のインタラクションやサブスクリプションの反応に基づいて収益を得る仕組みです。収入の主な源泉は、Xプレミアムの有料ユーザーのインタラクション行動であり、従来の広告収入モデルとは異なります。クリエイターは一定の資格条件を満たす必要があり、AIの出典開示義務を怠ると参加資格を失います。