Powell, Bessent mettent en garde les banques contre les risques de sécurité liés à l’IA Mythos d’Anthropic : Bloomberg

En bref

• Des responsables américains ont averti de grandes banques des risques en matière de cybersécurité liés au modèle d’IA Mythos d’Anthropic, selon Bloomberg.
• Le système pourrait, selon les informations, identifier et exploiter des vulnérabilités dans les systèmes d’exploitation et les navigateurs.
• Anthropic dispose d’un accès limité au modèle pendant qu’il évalue les risques potentiels pour la sécurité.

Le secrétaire au Trésor américain Scott Bessent et le président de la Réserve fédérale Jerome Powell auraient réuni plus tôt cette semaine des dirigeants de grandes banques de Wall Street afin de les alerter sur les risques de cybersécurité liés à un nouveau modèle d’intelligence artificielle d’Anthropic. D’après un rapport de Bloomberg, la réunion a rassemblé des responsables de Citigroup, Bank of America, Wells Fargo, Morgan Stanley et Goldman Sachs. Les responsables ont discuté du nouveau modèle d’IA d’Anthropic, Mythos, qui a récemment suscité de vives inquiétudes au sujet de ses capacités avancées apparentes en cybersécurité. Les responsables ont convoqué la réunion pour s’assurer que les banques comprennent les risques posés par des systèmes capables d’identifier et d’exploiter des vulnérabilités logicielles sur l’ensemble des systèmes d’exploitation et des navigateurs web, et pour encourager les institutions à renforcer leurs défenses contre d’éventuelles cyberattaques assistées par l’IA visant l’infrastructure financière.

Des chercheurs en sécurité ont averti que des outils capables de découvrir automatiquement des vulnérabilités pourraient accélérer à la fois le travail de sécurisation défensive et le piratage malveillant en cas d’utilisation abusive.  Le modèle Mythos d’Anthropic est apparu pour la première fois en ligne en mars, après que des documents de travail à propos du système ont fui en ligne, révélant ce que l’entreprise a présenté comme son modèle d’IA le plus capable à ce jour. Lors des tests, le système aurait identifié des milliers de vulnérabilités logicielles auparavant inconnues, y compris des failles zero-day sur les principaux systèmes d’exploitation et navigateurs web. Dans un rapport plus tôt cette semaine, des chercheurs d’Anthropic ont déclaré que les capacités de découverte de vulnérabilités de Mythos Preview n’avaient pas été entraînées intentionnellement, mais qu’elles étaient plutôt apparues à la suite d’améliorations plus larges du codage, du raisonnement et de l’autonomie du modèle.

« Les mêmes améliorations qui rendent le modèle considérablement plus efficace pour corriger les vulnérabilités le rendent aussi considérablement plus efficace pour les exploiter », a écrit l’entreprise. En raison de ces capacités, Anthropic a restreint l’accès à un petit groupe d’organisations de cybersécurité. « Compte tenu de la force de ses capacités, nous faisons preuve de prudence quant à la manière dont nous le publions », a déclaré Anthropic dans un communiqué. « Comme c’est une pratique standard dans l’ensemble de l’industrie, nous travaillons avec un petit groupe de clients disposant d’un accès anticipé pour tester le modèle. Nous considérons ce modèle comme un changement d’ampleur et le plus capable que nous ayons construit à ce jour. » Pour faire face à ce risque, Anthropic teste Mythos via le projet Glasswing, une collaboration avec de grandes entreprises technologiques et de cybersécurité qui utilise le modèle pour identifier et corriger des vulnérabilités dans des logiciels critiques avant que des attaquants ne puissent les exploiter. « Project Glasswing est un point de départ. Aucune organisation ne peut résoudre ces problèmes de cybersécurité à elle seule », a déclaré l’entreprise dans un communiqué. « Les développeurs d’IA de la frontier, les autres sociétés de logiciels, les chercheurs en sécurité, les mainteneurs de logiciels open source et les gouvernements du monde entier ont tous des rôles essentiels à jouer. » Anthropic n’a pas répondu immédiatement à la demande de commentaire de Decrypt.