Google cảnh báo! Các tổ chức hacker của Bắc Triều Tiên và nhiều quốc gia đang lợi dụng Gemini để tấn công

Báo cáo mới nhất do Nhóm tình báo mối đe dọa của Google (GTIG) công bố chỉ ra rằng các nhóm tin tặc ở Triều Tiên và nhiều quốc gia đang tích cực sử dụng Gemini để xử lý các nhiệm vụ như trinh sát tự động và phát triển phần mềm độc hại, điều này sẽ gây ra mối đe dọa nghiêm trọng đối với dữ liệu toàn cầu và an ninh quốc phòng. Steve Miller, người đứng đầu GTIG, cho rằng các doanh nghiệp cần đối mặt với vấn đề tấn công mạng và triển khai các biện pháp phòng thủ AI để bảo vệ an ninh tài nguyên và dữ liệu của công ty.

Nhóm tin tặc tận dụng trí thông minh mã nguồn mở tổng hợp của Gemini để phân tích các mục tiêu cụ thể

Google báo cáo rằng một nhóm tin tặc Triều Tiên có tên mã UNC 2970 đang sử dụng Gemini Integrated Open Source Intelligence (OSINT) để tiến hành phân tích tinh vi về các mục tiêu cụ thể có giá trị cao. Tổ chức này từ lâu đã được gọi là Chiến dịch Dream Job, cải trang thành các nhà tuyển dụng của công ty, nhắm mục tiêu đến các chuyên gia trong ngành hàng không vũ trụ, quốc phòng và năng lượng. Với sự trợ giúp của AI, những kẻ tấn công có thể tìm kiếm hiệu quả hơn các cơ hội việc làm kỹ thuật và cấu trúc lương tại các công ty an ninh và quốc phòng lớn để xác định chính xác mục tiêu.

GTIG cho biết UNC 2970 có thể nhắm mục tiêu chính xác hơn vào các điểm yếu của sự xâm nhập ban đầu bằng cách tạo ra các kịch bản kỹ thuật xã hội tùy chỉnh cao. Ngoài Triều Tiên, các nhóm tin tặc Trung Quốc Mustang Panda (Temp.HEX) và APT 31 cũng đã bị phát hiện sử dụng AI để chỉnh sửa các tệp cá nhân hoặc tự động hóa phân tích lỗ hổng.

Phát triển tính năng “thuê ngoài” phần mềm độc hại mới thông qua API của Gemini

Báo cáo tiết lộ một loại phần mềm độc hại mới có tên là HONESTCUE thuê ngoài phát triển tính năng thông qua API của Gemini, một khung trình tải xuống lấy mã nguồn C# được tạo nhận được từ API Gemini và biên dịch và thực thi tải trọng trực tiếp trong bộ nhớ bằng cách sử dụng khung .NET CSharpCodeProvider hợp pháp, không để lại dấu vết trên đĩa.

Những kẻ tấn công mạng đã gửi hơn 100.000 lời nhắc, sao chép khả năng suy luận AI

Google đã quan sát thấy những kẻ tấn công gửi một số lượng lớn lời nhắc đến AI để sao chép khả năng suy luận và phản hồi của mô hình. Google chặn các mô hình thay thế mà máy bắt chước; Trong một cuộc tấn công quy mô lớn, Gemini đã bị tấn công mạng với hơn 10 lời nhắc đặt ra một loạt câu hỏi nhằm tái tạo khả năng suy luận của AI trong các nhiệm vụ không phải tiếng Anh.

Steve Miller, người đứng đầu bộ phận đe dọa trí tuệ nhân tạo tại Google, chỉ ra rằng trong khi những kẻ tấn công tiếp tục cố gắng vượt qua các biện pháp bảo vệ an ninh bằng cách ngụy trang danh tính của họ, Gemini đã tiếp tục đạt được tiến bộ trong việc xác định các phương pháp lừa đảo và tăng cường các bộ lọc tự động, và các biện pháp phòng thủ của nó không ngừng phát triển để đối phó với các loại tấn công nhanh chóng mới.

Đối mặt với các mối đe dọa AI ngày càng nghiêm trọng, Google đã tung ra một chương trình phòng thủ mạng AI liên tục nâng cấp khả năng phòng thủ chống lại các cuộc tấn công độc hại, cải thiện độ chính xác của phát hiện và tự động hóa tốc độ phản hồi. Steve Miller cho rằng các doanh nghiệp nên đầu tư vào cơ sở hạ tầng AI và xây dựng hệ thống phòng thủ để đảm bảo an toàn thông tin trong tương lai.

Bài viết này Google cảnh báo! Triều Tiên và các nhóm tin tặc đa quốc gia đang sử dụng Gemini để tấn công appeared first on Chain News ABMedia.