Пауелл і Бессент попереджають банки про ризики безпеці через AI Mythos від Anthropic: Bloomberg

Коротко

• За даними Bloomberg, посадовці США попередили великі банки про ризики кібербезпеки, пов’язані з AI-моделлю Mythos від Anthropic.
• Як повідомляється, система може виявляти та використовувати вразливості в операційних системах і браузерах.
• За повідомленням, Anthropic має обмежений доступ до моделі, доки оцінює потенційні ризики для безпеки.

Як повідомляється, міністр фінансів США Скотт Бессент і голова Федеральної резервної системи Джером Пауелл раніше цього тижня скликали зустріч із генеральними директорами банків зі стіни-стріт, щоб попередити про ризики кібербезпеки, пов’язані з новою моделлю штучного інтелекту від Anthropic. Згідно зі звітом Bloomberg, у зустрічі брали участь керівники Citigroup, Bank of America, Wells Fargo, Morgan Stanley та Goldman Sachs. Посадовці обговорювали нову AI-модель Anthropic Mythos, яка нещодавно викликала широку стурбованість через її очевидні розвинені можливості в сфері кібербезпеки. Зустріч скликали, щоб гарантувати, що банки розуміють ризики, які створюють системи, здатні виявляти та використовувати вразливості в програмному забезпеченні в різних операційних системах і веббраузерах, а також щоб заохотити установи посилювати захист від потенційних кібератак, які можуть здійснюватися за допомогою AI і спрямовуватися на фінансову інфраструктуру.

Дослідники з безпеки попереджали, що інструменти, здатні автоматично знаходити вразливості, можуть прискорити як роботу з оборонної безпеки, так і зловмисне хакерство, якщо ними зловживати.  Модель Mythos від Anthropic уперше з’явилася в мережі в березні після витоку чернеткових матеріалів про систему, які опинилися онлайн, і виявили те, що компанія описала як найздатнішу її AI-модель на той момент. Під час тестування, як повідомляється, система знаходила тисячі раніше невідомих вразливостей у програмному забезпеченні, зокрема zero-day-загрози в ключових операційних системах і веббраузерах. Дослідники Anthropic заявили у звіті на початку цього тижня, що можливості Mythos Preview із виявлення вразливостей не були навмисно натреновані, натомість вони виникли внаслідок ширших покращень у кодуванні, міркуванні та автономності моделі.

«Ті самі покращення, які роблять модель значно ефективнішою у виправленні вразливостей, також роблять її значно ефективнішою у їх експлуатації», — написала компанія. Через ці можливості Anthropic обмежила доступ до моделі невеликій групі організацій у сфері кібербезпеки. «З огляду на потужність її можливостей, ми діємо виважено щодо того, як її випускатимемо», — зазначили в заяві Anthropic. «Як це стандартно прийнято в індустрії, ми працюємо з невеликою групою клієнтів із раннім доступом, щоб протестувати модель. Ми вважаємо цю модель кроком зміни та найздатнішою з того, що ми створили на сьогодні». Щоб усунути цей ризик, Anthropic тестує Mythos у межах Project Glasswing — співпраці з провідними технологічними та кіберзахисними компаніями, яка використовує модель для виявлення та виправлення вразливостей у критично важливому програмному забезпеченні до того, як атакувальники зможуть їх використати. «Project Glasswing — це відправна точка. Жодна організація не може вирішити ці проблеми кібербезпеки самотужки», — сказала компанія в заяві. «Розробники Frontier AI, інші компанії з розробки програмного забезпечення, дослідники з безпеки, підтримувачі open-source та уряди в усьому світі — усі мають важливі ролі». Anthropic не відповіла негайно на запит щодо коментарів Decrypt.