Pengawas Data Irlandia Bergabung dengan Regulator Global yang Menyelidiki X Terkait Risiko Gambar AI

Singkatnya

• DPC Irlandia telah membuka penyelidikan GDPR skala besar terhadap X terkait pembuatan gambar seksualisasi non-konsensual oleh Grok, termasuk gambar anak-anak.
• Penyelidikan ini memeriksa apakah X mematuhi kewajiban utama GDPR dalam penggunaan fitur gambar Grok untuk pengguna UE.
• Penyelidikan ini merupakan yang terbaru dalam gelombang regulasi global yang menargetkan Grok, dengan tindakan formal yang kini dibuka di seluruh Eropa, Inggris, Australia, dan AS.

Regulator privasi Irlandia telah membuka penyelidikan resmi terhadap X terkait apakah chatbot Grok milik Elon Musk membantu menghasilkan dan menyebarkan gambar seksualisasi non-konsensual, termasuk gambar anak-anak, menambah ketegangan dalam penindakan global yang semakin meluas terhadap alat “nudifikasi” AI. Komisi Perlindungan Data (DPC) meluncurkan penyelidikan terhadap X Internet Unlimited Company (XIUC), entitas hukum terdaftar di UE yang mengoperasikan platform media sosial Elon Musk di Eropa, berdasarkan Undang-Undang Perlindungan Data Irlandia 2018, dengan fokus pada “pembuatan dan publikasi di platform X, gambar intim dan/atau seksualisasi yang berpotensi berbahaya dan non-konsensual… termasuk anak-anak” menggunakan alat AI generatif Grok. Pengawas menyatakan bahwa mereka telah memberitahu XIUC tentang keputusan untuk memulai penyelidikan dan akan menilai kepatuhan terhadap persyaratan utama GDPR, termasuk prinsip pengolahan data, dasar hukum, privasi-by-design, dan apakah diperlukan penilaian dampak perlindungan data. 

“Sebagai Otoritas Pengawas Utama untuk XIUC di seluruh UE/EEA, DPC telah memulai penyelidikan skala besar yang akan memeriksa kepatuhan XIUC terhadap beberapa kewajiban dasar mereka di bawah GDPR terkait masalah ini,” kata Wakil Komisaris Graham Doyle dalam pernyataannya. Penyelidikan ini muncul saat Irlandia, yang berfungsi sebagai otoritas pengawas utama UE untuk sebagian besar platform teknologi besar Amerika, memberikan keputusan yang mengikat di seluruh blok, bergabung dalam respons internasional yang semakin meluas terhadap peran Grok dalam menghasilkan deepfake non-konsensual secara massal. Center for Countering Digital Hate (CCDH) melaporkan bulan lalu bahwa Grok menghasilkan sekitar 23.338 gambar seksual yang menggambarkan anak-anak, selama 11 hari dari 29 Desember hingga 9 Januari, dan para peneliti menemukan sekitar sepertiga dari gambar yang diambil tetap dapat diakses di X meskipun platform tersebut memiliki kebijakan nol toleransi. Setelah adanya reaksi keras, X membatasi pembuatan dan pengeditan gambar Grok hanya untuk pelanggan berbayar, menambahkan hambatan teknis untuk mencegah pengguna memanipulasi gambar secara digital agar memperlihatkan orang dalam pakaian terbuka, dan memblokir fitur tersebut di yurisdiksi di mana konten semacam itu ilegal.

Decrypt telah menghubungi xAI untuk komentar. Penindakan Regulasi Global Pada Januari, Komisi Eropa membuka penyelidikan resmi Digital Services Act terhadap X terkait dugaan peran Grok dalam menghasilkan dan menyebarkan konten seksual ilegal. Beberapa hari kemudian, otoritas Prancis menggerebek kantor X di Paris bekerja sama dengan Europol, memanggil Musk dan beberapa eksekutif untuk dimintai keterangan. Di Inggris, baik Ofcom maupun Office of the Information Commissioner membuka penyelidikan terpisah, dengan Ofcom memperingatkan bahwa mereka dapat mencari langkah hukum yang didukung pengadilan untuk secara efektif memblokir layanan X jika terbukti tidak mematuhi, sementara Perdana Menteri Keir Starmer mengatakan akan mencari kekuasaan parlemen baru untuk mengatur penyedia chatbot AI di bawah undang-undang keamanan daring. Komisioner eSafety Australia Julie Inman Grant mengatakan bahwa keluhan terkait Grok dan gambar seksual AI yang dibuat tanpa izin telah berlipat ganda dalam beberapa bulan terakhir, dan mengatakan bahwa kantornya akan menggunakan kekuatan penegakan hukumnya jika diperlukan. Jaksa Agung California Rob Bonta mengumumkan penyelidikan resmi terhadap xAI dan Grok terkait pembuatan dan penyebaran gambar AI eksplisit seksual non-konsensual dari wanita dan anak-anak. Awal bulan ini, UNICEF menyebut deepfake seksual AI sebagai “peningkatan risiko yang mendalam bagi anak-anak di lingkungan digital,” dengan mengatakan setidaknya 1,2 juta anak menjadi target tahun lalu dan mendesak pemerintah untuk mengkriminalisasi materi pelecehan yang dibuat AI dan mewajibkan perlindungan keamanan-by-design.