L'IA devient un hacker ! Des millions de données confidentielles du gouvernement mexicain ont été divulguées

La société de cybersécurité Gambit Security a publié un rapport indiquant qu’un hacker inconnu a utilisé le chatbot d’intelligence artificielle Claude pour lancer une attaque contre des agences gouvernementales mexicaines. L’incident, qui dure depuis décembre dernier, a entraîné la fuite d’environ 150 Go de données sensibles, comprenant 195 millions de dossiers de contribuables et d’électeurs. Le hacker a contourné les restrictions de sécurité du modèle d’IA via des commandes spécifiques, lui permettant d’aider à identifier des vulnérabilités du système et d’automatiser la rédaction de codes malveillants. Cet incident met en lumière les défis en matière de sécurité informatique rencontrés par les administrations lors de leur transformation numérique, tout en suscitant une préoccupation sérieuse quant aux risques potentiels des outils d’IA générative.

Des hackers utilisent Claude et ChatGPT pour dérober des centaines de millions de données confidentielles

Selon Bloomberg, cette attaque a permis de voler 150 Go de fichiers confidentiels, affectant la fiscalité fédérale mexicaine et l’organisme national des élections, avec près de 195 millions de dossiers de contribuables compromis. Les hackers ont exploité le chatbot d’Anthropic, Claude, en utilisant une technique de « jailbreak » pour se faire passer pour des testeurs de sécurité participant à un « programme de récompense pour bugs » (bug bounty), afin de faire contourner les protections de sécurité existantes. Lorsque le modèle refusait d’exécuter des commandes malveillantes, les hackers ont également utilisé ChatGPT pour obtenir des instructions sur des techniques de déplacement latéral. Ce phénomène illustre une nouvelle forme d’attaque informatique, fortement automatisée.

Risques de conformité et de sécurité pour les géants de la technologie

En réponse à cet incident, Anthropic et OpenAI ont tous deux indiqué avoir bloqué les comptes malveillants et lancé une enquête. Anthropic a précisé avoir intégré les données de retour de cette attaque dans son dernier modèle Claude, afin de renforcer ses mécanismes de détection et de défense. Cela reflète le fait que, tout en faisant progresser la technologie, les développeurs d’IA doivent consacrer davantage de ressources à prévenir les abus malveillants. Pour les investisseurs, la conformité et la sécurité des grands modèles linguistiques (LLM) deviendront probablement des indicateurs clés pour évaluer la compétitivité à long terme et les risques opérationnels des entreprises technologiques.

Tendances de l’industrie de la cybersécurité et impacts macroéconomiques

L’effet double tranchant de l’IA redéfinit le marché de la cybersécurité. Alors que les hackers exploitent l’IA pour augmenter l’efficacité de leurs attaques, la demande en protections avancées ne cesse de croître. Prenons l’exemple de Gambit Security, une startup israélienne spécialisée dans la cybersécurité, qui a récemment levé 61 millions de dollars, témoignant de l’optimisme du marché quant aux solutions de défense intégrant la chasse aux menaces (Threat Hunting) basée sur l’IA. La croissance continue des dépenses mondiales en cybersécurité, alimentée par la digitalisation, profite aux fournisseurs de services de sécurité et d’architecture de protection.

Cet article « L’IA devient hacker ! La fuite de données confidentielles du gouvernement mexicain » a été initialement publié sur Chain News ABMedia.