Peringatan Google! Organisasi peretas dari Korea Utara dan beberapa negara sedang memanfaatkan Gemini untuk melakukan serangan

Google Timpa Intel Threat Group (GTIG) merilis laporan terbaru yang menunjukkan bahwa kelompok peretas Korea Utara dan beberapa negara sedang aktif memanfaatkan Gemini untuk menangani tugas otomatisasi pengintaian, pengembangan malware, dan lain-lain, yang akan menjadi ancaman serius terhadap data global dan keamanan pertahanan nasional. Kepala GTIG, Steve Miller, menyatakan bahwa perusahaan perlu menyadari masalah serangan siber, melakukan penempatan pertahanan AI yang tepat, dan melindungi sumber daya serta data perusahaan.

Kelompok peretas menggunakan Gemini untuk analisis target tertentu dengan intelijen sumber terbuka terintegrasi

Laporan Google menunjukkan bahwa kelompok peretas Korea Utara dengan kode nama UNC 2970 memanfaatkan Gemini untuk intelijen sumber terbuka (OSINT) secara komprehensif, melakukan analisis canggih terhadap target bernilai tinggi tertentu. Kelompok ini telah lama menjalankan operasi bernama Operation Dream Job (Pekerjaan Impian), menyamar sebagai perekrut perusahaan dan menargetkan profesional di industri dirgantara, pertahanan, dan energi. Dengan bantuan AI, penyerang dapat lebih efektif mencari posisi teknis dan struktur gaji di perusahaan keamanan siber dan pertahanan utama, sehingga dapat menemukan target secara tepat.

GTIG menyatakan bahwa UNC 2970 membangun skrip rekayasa sosial yang sangat disesuaikan untuk menargetkan titik lemah awal masuk secara lebih akurat. Selain Korea Utara, kelompok peretas China Mustang Panda (Temp.HEX) dan APT 31 juga ditemukan memanfaatkan AI untuk mengedit profil pribadi atau otomatisasi analisis kerentanan.

Perangkat lunak berbahaya baru melalui API Gemini untuk outsourcing pengembangan fungsi

Laporan mengungkapkan bahwa perangkat lunak berbahaya baru bernama HONESTCUE menggunakan API Gemini untuk mengoutsourcing pengembangan fungsi. HONESTCUE adalah kerangka pengunduh yang, dalam tahap sekunder tanpa file, akan menerima kode sumber C# yang dihasilkan dari API Gemini, kemudian menggunakan kerangka .NET CSharpCodeProvider yang sah untuk mengompilasi dan menjalankan payload secara langsung di memori, tanpa meninggalkan jejak di disk.

Penyerang siber mengirim lebih dari seratus ribu petunjuk dan menyalin kemampuan inferensi AI

Google mengamati bahwa penyerang mengirim sejumlah besar petunjuk ke AI untuk menyalin kemampuan inferensi model. Google memblokir model alternatif yang meniru; dalam serangan besar-besaran, Gemini diserang dengan lebih dari 100.000 petunjuk, yang mengajukan berbagai pertanyaan dengan niat menyalin kemampuan inferensi AI dalam tugas non-Inggris.

Kepala ancaman kecerdasan buatan Google, Steve Miller, menyatakan bahwa meskipun penyerang terus mencoba menyamar untuk menghindari perlindungan keamanan, Gemini terus berkembang dalam mengenali metode penipuan dan memperkuat filter otomatis, sehingga sistem pertahanan terus berevolusi untuk menghadapi serangan petunjuk baru.

Menghadapi ancaman AI yang semakin serius, Google meluncurkan program pertahanan jaringan AI yang terus ditingkatkan untuk melawan serangan berbahaya, meningkatkan akurasi deteksi, dan mempercepat respons otomatis. Melalui pembelajaran mesin, sistem pertahanan dapat lebih tajam dalam mengenali perilaku panggilan API yang mencurigakan dan karakteristik skrip berbahaya. Steve Miller menyatakan bahwa perusahaan harus menginvestasikan dana dalam infrastruktur AI dan membangun sistem pertahanan agar dapat memastikan keamanan siber di masa depan.

Artikel ini Google Warning! Kelompok peretas Korea Utara dan beberapa negara memanfaatkan Gemini untuk serangan pertama kali muncul di Berita Blockchain ABMedia.