AI biến hình thành hacker! Chính phủ Mexico rò rỉ hàng tỷ dữ liệu mật

An ninh mạng công ty Gambit Security phát hành báo cáo cho biết, có hacker chưa rõ danh tính lợi dụng chatbot trí tuệ nhân tạo Claude để tấn công mạng các cơ quan chính phủ Mexico. Sự kiện này kéo dài khoảng một tháng kể từ tháng 12 năm ngoái, dẫn đến rò rỉ tới 150 GB dữ liệu nhạy cảm, trong đó có 195 triệu hồ sơ người nộp thuế và cử tri. Hacker đã dùng lệnh đặc biệt để vượt qua giới hạn an toàn của mô hình AI, giúp nó tìm lỗ hổng hệ thống và tự động viết mã độc. Sự kiện này không chỉ nhấn mạnh thách thức về an ninh thông tin trong quá trình chuyển đổi số của các cơ quan chính phủ, mà còn gây lo ngại nghiêm trọng về rủi ro tiềm ẩn của các công cụ AI sinh tạo.

Hacker dùng Claude và ChatGPT đánh cắp hàng triệu dữ liệu mật

Theo Bloomberg, cuộc tấn công này đã lấy đi 150 GB dữ liệu mật, ảnh hưởng đến Tổng cục Thuế liên bang Mexico và Cơ quan Bầu cử quốc gia, liên quan đến 195 triệu hồ sơ người nộp thuế. Hacker đã dùng chatbot AI của Anthropic, Claude, bằng phương pháp “Jailbreak” giả dạng nhân viên kiểm thử an ninh thực hiện “Chương trình thưởng lỗi (Bug bounty)”, lừa AI vượt qua các hàng rào an toàn sẵn có. Khi mô hình từ chối lệnh độc hại, hacker còn dùng chéo ChatGPT để lấy hướng dẫn kỹ thuật di chuyển ngang. Hiện tượng này cho thấy các cuộc tấn công mạng mới đã có đặc điểm tự động hóa cao.

Các tập đoàn công nghệ đối mặt rủi ro tuân thủ và phòng ngừa

Về vụ việc này, cả Anthropic và OpenAI đều cho biết đã khóa các tài khoản độc hại liên quan và tiến hành điều tra. Anthropic cho biết đã đưa dữ liệu phản hồi của mô hình tấn công này vào trong phiên bản mới nhất của Claude để tăng cường khả năng phát hiện và phòng thủ hệ thống. Điều này phản ánh rằng các nhà phát triển AI cần đầu tư nhiều hơn vào phòng chống lạm dụng mô hình. Đối với nhà đầu tư thị trường, tính tuân thủ và an toàn của các mô hình ngôn ngữ lớn (LLM) sẽ trở thành chỉ số quan trọng để đánh giá năng lực cạnh tranh và rủi ro vận hành dài hạn của các doanh nghiệp công nghệ liên quan.

Xu hướng ngành an ninh mạng và tác động vĩ mô

Hiệu ứng hai mặt của công nghệ AI đang định hình lại thị trường ngành an ninh mạng. Khi hacker dùng AI để nâng cao hiệu quả tấn công, các doanh nghiệp và chính phủ đều cần các giải pháp phòng thủ nâng cao. Ví dụ, công ty khởi nghiệp an ninh mạng Israel Gambit Security, đã thành công gọi vốn 61 triệu USD gần đây, cho thấy thị trường vốn rất kỳ vọng vào các giải pháp phòng thủ có công nghệ săn lùng mối đe dọa (Threat Hunting) dựa trên AI. Kết hợp với quá trình số hóa toàn cầu, ngành an ninh mạng dự kiến sẽ tiếp tục tăng trưởng ổn định, các nhà cung cấp dịch vụ bảo vệ liên quan sẽ hưởng lợi.

Bài viết này về AI biến thành hacker! Dữ liệu mật của chính phủ Mexico bị rò rỉ hàng tỷ hồ sơ ban đầu xuất hiện trên Chain News ABMedia.