Indonesia telah menjadi negara pertama yang mengambil tindakan dengan menghentikan chatbot Grok milik Elon Musk, menanggapi kekhawatiran yang meningkat tentang potensi platform tersebut untuk menghasilkan gambar pornografi. Pada hari Sabtu, setelah laporan dari PANews yang mengutip Zhitong Finance, pemerintah Indonesia bergerak untuk menangguhkan alat AI tersebut, menandai momen penting dalam regulasi AI global. Tindakan ini muncul saat pemerintah dan pengawas di seluruh Eropa dan Asia semakin mengkritik kapasitas platform untuk menghasilkan media sintetis yang berbahaya, dengan beberapa yurisdiksi meluncurkan penyelidikan resmi.

Menteri Komunikasi dan Digital Indonesia Mutia Hafeed menyatakan posisi pemerintah dengan jelas: "Negara mengakui bahwa deepfake tanpa izin yang tidak disetujui merupakan pelanggaran serius terhadap hak asasi, martabat individu, dan keamanan digital bagi masyarakat kita." Kementerian kemudian mengundang eksekutif dari Perusahaan X (Grok yang merupakan induk organisasi) untuk berdiskusi secara resmi mengenai hal ini.

Larangan ini menegaskan kekhawatiran internasional yang semakin meningkat mengenai sistem AI yang mampu menghasilkan gambar pornografi tanpa persetujuan pengguna. Intervensi tegas Indonesia menandakan urgensi di mana pembuat kebijakan menangani ancaman yang muncul ini, menempatkan negara tersebut di depan negara lain dalam tindakan perlindungan. Keputusan ini mencerminkan komitmen untuk melindungi warga dari teknologi yang berpotensi membahayakan privasi, martabat, dan keamanan pribadi di dunia digital.