X Twitter impose de lourdes sanctions pour de fausses vidéos IA, les créateurs de vidéos de guerre risquent une suspension permanente

La plateforme communautaire X, appartenant à Elon Musk, a annoncé une mise à jour de sa politique de monétisation pour les créateurs, stipulant que tout créateur publiant des vidéos de conflits armés générés par IA sans en préciser clairement la source sera suspendu du programme de partage des revenus « Creator Revenue Sharing » pendant 90 jours ; en cas de récidive, tous ses droits à la monétisation sur X seront définitivement annulés. Nikita Bier, responsable produit de X, a indiqué que cette mise à jour vise à préserver l’authenticité du contenu sur la plateforme.

Principaux points de la nouvelle réglementation : mécanisme de sanction graduée et conditions de déclenchement

Le programme de partage des revenus de X permet aux comptes éligibles de gagner des revenus en fonction de l’interaction avec leurs publications et abonnements, principalement issus des interactions des abonnés payants de X Premium, plutôt que du modèle traditionnel de partage publicitaire. La nouvelle réglementation intègre l’obligation de divulgation des vidéos générées par IA comme condition d’éligibilité à la monétisation :

Première infraction : suspension de 90 jours du programme de partage des revenus « Creator Revenue Sharing »

Récidive : suppression définitive de tous les droits à la monétisation sur X

Condition de déclenchement : publication de vidéos liées à des conflits armés ou à la guerre, identifiées comme générées par IA, sans divulgation proactive de leur origine IA

Nikita Bier a souligné qu’en période de guerre ou de conflit, l’accès à des informations véridiques est crucial. Avec la généralisation des outils d’IA générative, la production d’images de champs de bataille fictifs et très réalistes devient beaucoup moins coûteuse, ce qui a conduit la plateforme à instaurer un système visant à renforcer la conformité en impactant directement les revenus des créateurs.

Contexte du déclenchement : propagation massive de fausses vidéos liées au conflit au Moyen-Orient

Cette mise à jour intervient suite à la diffusion rapide sur X et d’autres réseaux sociaux de nombreuses vidéos prétendant provenir du front de guerre au Moyen-Orient, dont certaines ont été ultérieurement confirmées comme étant synthétiques par IA.

Une vidéo montrant une attaque aérienne sur la Burj Khalifa à Dubaï a été vue plus de 8 millions de fois sur X, tandis qu’une autre version du même contenu a été vue environ 42 000 fois sur Instagram. Les deux ont été vérifiées comme étant générées par IA, et non des images réelles du conflit.

Ce problème n’est pas nouveau. Pendant l’invasion de l’Ukraine par la Russie, une vidéo montrant le président Zelensky appelant à la capitulation a circulé en ligne, puis a été confirmée comme étant une deepfake. Zelensky a également publié une déclaration niant cette vidéo. L’ONU a averti que la deepfake et les médias générés par IA représentent une menace sérieuse pour la crédibilité de l’information mondiale, notamment dans les zones de conflit où les images fictives peuvent être largement diffusées pour inciter à la haine ou manipuler l’opinion publique.

Mécanismes de détection : métadonnées, traces techniques et Community Notes

Pour appliquer cette nouvelle réglementation, X indique qu’elle intégrera plusieurs techniques et signaux communautaires pour identifier les contenus non conformes : métadonnées intégrées dans les vidéos, traces techniques laissées par les outils d’IA générative, et le système de vérification communautaire « Community Notes ». Si une publication est signalée par la communauté comme étant générée par IA sans divulgation, la plateforme pourra lancer une enquête et appliquer les sanctions appropriées.

Nikita Bier a insisté sur le fait que relier directement la sanction à la monétisation vise à réduire fondamentalement l’incitation pour les créateurs à utiliser de fausses images pour attirer du trafic et des revenus. X indique qu’elle continuera à ajuster ses politiques pour garantir la fiabilité globale des informations, notamment lors de crises majeures ou d’événements imprévus.

Questions fréquentes

Quelles sont les sanctions spécifiques pour les vidéos de guerre générées par IA sur X ?

Selon la nouvelle politique de partage des revenus, la première infraction (publication d’une vidéo de guerre générée par IA sans divulgation) entraînera une suspension de 90 jours du programme « Creator Revenue Sharing ». En cas de récidive, tous les droits à la monétisation sur X seront définitivement supprimés.

Comment X détecte-t-il les vidéos de guerre générées par IA non divulguées ?

X utilisera trois méthodes : métadonnées intégrées dans la vidéo, traces techniques laissées par les outils d’IA générative, et le système communautaire « Community Notes ». Si une publication est signalée comme générée par IA et non divulguée, cela servira de base pour lancer une enquête et appliquer des sanctions.

Quelle est la source des revenus dans le programme de partage des revenus de X ?

Le programme « Creator Revenue Sharing » permet aux comptes éligibles de gagner des revenus en fonction de l’interaction avec leurs publications et abonnements, principalement issus des interactions des abonnés payants de X Premium, plutôt que du modèle traditionnel de partage publicitaire. Les créateurs doivent remplir certains critères pour participer, et ceux qui ne divulguent pas l’origine IA perdront leur droit à la monétisation.