Alerte Google ! Des groupes de hackers nord-coréens et de plusieurs pays utilisent Gemini pour mener des attaques

Google groupe d’information sur les menaces (GTIG) a publié un rapport récent indiquant que la Corée du Nord et plusieurs organisations de hackers dans différents pays exploitent activement Gemini pour des tâches telles que la reconnaissance automatisée et le développement de logiciels malveillants, ce qui constitue une menace grave pour les données mondiales et la sécurité nationale. Le responsable du GTIG, Steve Miller, a déclaré que les entreprises doivent prendre au sérieux les problèmes d’attaques informatiques, déployer des défenses basées sur l’IA et protéger leurs ressources et données.

Les hackers utilisent Gemini pour analyser des cibles spécifiques en combinant des renseignements open source

Le rapport de Google indique que le groupe de hackers nord-coréen nommé UNC 2970 utilise Gemini pour analyser de manière précise des cibles de grande valeur en combinant des renseignements open source (OSINT). Ce groupe, opérant sous le nom d’Operation Dream Job (Opération Job de Rêve), se fait passer pour des recruteurs d’entreprise, ciblant des professionnels dans les secteurs de l’aérospatiale, de la défense et de l’énergie. Avec l’aide de l’IA, les attaquants peuvent rechercher plus efficacement les offres d’emploi et la structure salariale des principales entreprises de cybersécurité et de défense, afin de trouver précisément leurs cibles.

Le GTIG indique que UNC 2970 crée des scripts d’ingénierie sociale hautement personnalisés pour cibler plus précisément les faiblesses lors de l’intrusion initiale. En plus de la Corée du Nord, des groupes de hackers chinois tels que Mustang Panda (Temp.HEX) et APT 31 ont également été détectés utilisant l’IA pour éditer des profils personnels ou automatiser l’analyse des vulnérabilités.

Nouveaux logiciels malveillants externalisés via l’API de Gemini

Le rapport révèle qu’un nouveau logiciel malveillant nommé HONESTCUE externalise le développement de ses fonctionnalités via l’API de Gemini. HONESTCUE est une plateforme de téléchargement, dont la phase secondaire sans fichier récupère le code source C# généré via l’API de Gemini, puis compile et exécute directement dans la mémoire à l’aide du cadre légitime .NET CSharpCodeProvider, ne laissant aucune trace sur le disque.

Les cyberattaquants envoient plus de cent mille invites pour copier la capacité de raisonnement de l’IA

Google a observé que les attaquants envoient massivement des invites à l’IA pour copier ses capacités de raisonnement. Google a empêché la création de modèles alternatifs imitant la machine ; lors d’une attaque de grande envergure, Gemini a été soumis à plus de 100 000 invites, posant une série de questions dans le but de reproduire la capacité de raisonnement de l’IA dans des tâches non anglophones.

Steve Miller, responsable de la menace de l’intelligence artificielle chez Google, a souligné que bien que les attaquants tentent constamment de contourner la sécurité en se déguisant, Gemini a continué de progresser dans la détection des tentatives de tromperie et le renforcement des filtres automatiques. Les systèmes de défense évoluent continuellement pour faire face à de nouvelles formes d’attaques par invites.

Face à la menace croissante de l’IA, Google a lancé un programme de défense réseau basé sur l’IA, en améliorant constamment la détection des attaques malveillantes, la précision de la détection et la vitesse de réponse automatique. Grâce à l’apprentissage automatique, le système de défense peut identifier plus efficacement les comportements anormaux d’appels API et les caractéristiques de scripts malveillants. Steve Miller a déclaré que les entreprises devraient investir dans l’infrastructure IA et établir des systèmes de défense pour assurer leur sécurité future.

Cet article Google avertit ! La Corée du Nord et plusieurs organisations de hackers exploitent Gemini pour des attaques, publié initialement sur ABMedia.