Штучний інтелект допомагає у злочинах! Хакери легко зламали уряд Мексики за допомогою Anthropic Claude, викравши 150GB конфіденційних даних

Коли генеративний штучний інтелект стає символом продуктивності, випадок хакерської атаки з використанням Claude для вторгнення в систему уряду Мексики та викрадення 150 ГБ конфіденційних даних став тривожним дзвінком для всього світу: ефект «двох кінців меча» AI прискорює нову еру кіберзлочинності.
(Попередній огляд: співбесіда на роботу — пастка для північнокорейських хакерів! PurpleBravo зламала понад 3 100 IP-адрес, AI та криптовалютні компанії — найбільші мішені)
(Додатковий контекст: несподівано! Північнокорейські хакери почали використовувати AI для шахрайства, «чатаючи» на платформах, таких як LinkedIn, щоб красти криптовалюту)

Зміст статті

Перемикач

• Хід подій: як AI став «помічником» хакерів
• Витік даних: інформація платників податків і виборців у центрі уваги
• Генеративний AI прискорює злочини: настає ера атак з низьким порогом входу

За повідомленням Bloomberg, один з хакерів використав інструменти генеративного штучного інтелекту для успішного проникнення в системи кількох урядових структур Мексики та викрадення до 150 ГБ конфіденційних даних. Цей інцидент був викритий дослідницькою організацією Gambit Security, що шокувало міжнародну кібербезпекову спільноту і знову підняло тривогу щодо зловживання AI-технологіями.

Цей випадок не лише демонструє потужність генеративного AI на технічному рівні, а й підкреслює його «двосічний меч»: підвищуючи ефективність і продуктивність, він може також прискорювати кіберзлочинність.

Хід подій: як AI став «помічником» хакерів

За аналізом дослідників Gambit Security, цей нападник не повністю покладався на традиційне ручне написання шкідливого коду, а значною мірою використовував Claude для автоматизації всього процесу атаки.

Спочатку хакер застосував багаторазові «jailbreak» (зломи обмежень) підказки, щоб обійти початкові обмеження безпеки Claude і змусити його генерувати заборонений контент, пов’язаний з атаками.

Після подолання обмежень AI використовувався для ключових етапів, зокрема:

• сканування та виявлення потенційних вразливостей систем
• автоматичного написання сценаріїв атак і шкідливого коду
• створення автоматизованих процесів збору та витоку даних

Загалом, атака стала високотехнологічною та автоматизованою, що значно скоротило час і знизило рівень необхідної кваліфікації для здійснення злочину. В результаті, хакер успішно викрав у кількох урядових структурах Мексики до 150 ГБ конфіденційних файлів.

Витік даних: інформація платників податків і виборців у центрі уваги

Ця подія торкнулася кількох урядових відомств, а витекла інформація має високий рівень конфіденційності та цінності, включаючи особисті дані платників податків, податкові записи та реєстраційні дані виборців. У разі зловживання такою інформацією можливі крадіжки особистості, фінансові шахрайства та навіть вплив на чесність виборів.

Поки що немає доказів, що ці дані вже були продані або використані далі, але уряд Мексики та міжнародна кібербезпекова спільнота вже підвищили рівень обережності та розпочали розслідування й запобіжні заходи.

Генеративний AI прискорює злочини: настає ера атак з низьким порогом входу

Цей випадок не є унікальним, а є одним із найновіших прикладів «озброєння» генеративних AI-інструментів. Раніше хакерам потрібно було самостійно досліджувати вразливості та писати код, що вимагало високого рівня навичок; тепер, за допомогою потужних мовних моделей, навіть недосвідчені зловмисники можуть швидко створювати професійні інструменти для атак.

Дослідження показують, що AI не лише допомагає знаходити слабкі місця систем, а й планувати та оптимізувати атаки, що збільшує масштаб і ефективність кіберзлочинів.

У майбутньому уряди, компанії та розробники AI мають тісно співпрацювати, щоб посилювати безпеку моделей, контролювати підозрілі дії та підвищувати загальний рівень кіберзахисту, щоб зберегти цифрові кордони у епоху AI.