X telah memperkenalkan kebijakan baru yang ketat untuk menargetkan penyebaran disinformasi perang yang dihasilkan oleh kecerdasan buatan dengan menyerang para pembuat konten di tempat yang paling menyakitkan: dompet mereka.
Platform media sosial X mengumumkan revisi besar terhadap kebijakan berbagi pendapatan pembuat konten, yang menargetkan video perang yang dihasilkan oleh kecerdasan buatan selama konflik bersenjata. Langkah ini diambil di tengah meningkatnya perang di Timur Tengah dan kekhawatiran yang berkembang tentang disinformasi selama konflik.
Nikita Bier, kepala produk X, mengatakan bahwa pembuat konten yang memposting rekaman perang yang dihasilkan AI tanpa pengungkapan akan menghadapi suspend selama 90 hari dari program berbagi pendapatan. Pelanggaran berulang akan berakibat larangan permanen. Penegakan akan bergantung pada Catatan Komunitas, sistem pemeriksaan fakta crowdsourcing platform, serta metadata dan sinyal yang tertanam dalam alat AI generatif.
Bier menekankan bahwa selama masa perang, sangat penting agar orang memiliki akses ke informasi otentik di lapangan, memperingatkan bahwa AI modern membuatnya sangat mudah untuk membuat konten yang dapat menyesatkan orang.
Pengumuman ini datang saat disinformasi menyebar dengan cepat secara daring tentang perang AS dan Israel dengan Iran, yang mengancam menjadi konflik regional yang lebih luas. Platform media sosial semakin ditekan untuk mencegah media sintetis dari distorsi persepsi publik selama krisis.
Di antara konten yang menjadi viral adalah video AI berkualitas tinggi yang mensimulasikan kehancuran kapal induk USS Abraham Lincoln. Klaim dan video ini ditolak oleh Komando Pusat AS. Video berkualitas sinematik ini menunjukkan misil hipersonik yang membanjiri pertahanan Aegis AS. Klip lain diklaim menunjukkan markas regional CIA dihancurkan; namun, pemeriksa fakta dilaporkan melacak ini kembali ke kebakaran rumah di Sharjah, Uni Emirat Arab, pada 2015, yang telah diperbaiki secara digital dengan AI agar terlihat seperti serangan militer.
Platform lain seperti Youtube dan Tiktok telah memperkenalkan persyaratan pengungkapan untuk konten yang dihasilkan AI, tetapi pendekatan X lebih ketat karena mengaitkan kepatuhan langsung dengan monetisasi. X sangat bergantung pada Catatan Komunitas sebagai alat pemeriksaan fakta yang terdesentralisasi, dan kebijakan baru ini mengintegrasikan sistem tersebut ke dalam penegakan, secara efektif mengumpulkan secara crowdsourcing deteksi konten perang AI yang tidak diungkapkan.