Powell, Bessent cảnh báo các ngân hàng về rủi ro an ninh từ AI Mythos của Anthropic: Bloomberg

Tóm lược

• Các quan chức Mỹ đã cảnh báo các ngân hàng lớn về rủi ro an ninh mạng gắn với mô hình AI Mythos của Anthropic, theo Bloomberg.
• Theo thông tin, hệ thống có thể xác định và khai thác các lỗ hổng trong hệ điều hành và trình duyệt.
• Anthropic hiện có quyền truy cập hạn chế vào mô hình trong khi đánh giá các rủi ro bảo mật tiềm ẩn.

Bộ trưởng Tài chính Mỹ Scott Bessent và Chủ tịch Cục Dự trữ Liên bang Jerome Powell được cho là đã triệu tập một cuộc họp với các CEO ngân hàng Phố Wall vào đầu tuần này để cảnh báo về rủi ro an ninh mạng liên quan đến một mô hình trí tuệ nhân tạo mới từ Anthropic. Theo một báo cáo của Bloomberg, cuộc họp có sự tham dự của các lãnh đạo từ Citigroup, Bank of America, Wells Fargo, Morgan Stanley và Goldman Sachs. Các quan chức đã thảo luận về mô hình AI mới của Anthropic là Mythos, gần đây đã vấp phải sự quan ngại rộng rãi về năng lực an ninh mạng tiên tiến mà nó dường như có. Các quan chức đã triệu tập cuộc họp để đảm bảo các ngân hàng hiểu các rủi ro do các hệ thống có khả năng xác định và khai thác lỗ hổng phần mềm trên nhiều hệ điều hành và trình duyệt web gây ra, đồng thời khuyến khích các tổ chức củng cố phòng vệ trước các cuộc tấn công mạng có hỗ trợ AI nhắm vào hạ tầng tài chính.

Các nhà nghiên cứu an ninh đã cảnh báo rằng các công cụ có khả năng tự động phát hiện lỗ hổng có thể làm tăng tốc cả các nỗ lực bảo mật phòng thủ lẫn các hoạt động tin tặc gây hại nếu bị lạm dụng.  Mô hình Mythos của Anthropic lần đầu xuất hiện trực tuyến vào tháng Ba sau khi các tài liệu nháp về hệ thống bị rò rỉ, cho thấy điều mà công ty mô tả là mô hình AI mạnh mẽ nhất của họ cho đến nay. Trong quá trình thử nghiệm, theo thông tin, hệ thống đã tìm thấy hàng nghìn lỗ hổng phần mềm trước đó chưa từng biết đến, bao gồm các lỗ hổng zero-day trên các hệ điều hành và trình duyệt web lớn. Các nhà nghiên cứu của Anthropic cho biết trong một báo cáo vào đầu tuần này rằng các khả năng phát hiện lỗ hổng của Mythos Preview không được huấn luyện có chủ đích, mà thay vào đó xuất hiện từ những cải tiến rộng hơn của mô hình về mã hóa, lập luận và mức độ tự chủ.

“Những cải tiến giống nhau giúp mô hình hiệu quả hơn đáng kể trong việc vá các lỗ hổng cũng làm cho nó hiệu quả hơn đáng kể trong việc khai thác chúng,” công ty viết. Do những khả năng đó, Anthropic đã hạn chế quyền truy cập vào một nhóm nhỏ các tổ chức an ninh mạng. “Với sức mạnh của các khả năng đó, chúng tôi đang thận trọng trong cách thức công bố,” Anthropic cho biết trong một tuyên bố. “Như là thông lệ tiêu chuẩn trong ngành, chúng tôi đang làm việc với một nhóm nhỏ khách hàng truy cập sớm để thử nghiệm mô hình. Chúng tôi coi mô hình này là một bước thay đổi và là mô hình năng lực nhất mà chúng tôi đã xây dựng cho đến nay.” Để giải quyết rủi ro đó, Anthropic đang thử nghiệm Mythos thông qua Project Glasswing, một sự hợp tác với các công ty công nghệ và an ninh mạng lớn, sử dụng mô hình để xác định và vá các lỗ hổng trong phần mềm quan trọng trước khi kẻ tấn công có thể khai thác chúng. “Project Glasswing là một điểm khởi đầu. Không một tổ chức nào có thể tự mình giải quyết các vấn đề an ninh mạng này,” công ty cho biết trong một tuyên bố. “Các nhà phát triển Frontier AI, các công ty phần mềm khác, các nhà nghiên cứu an ninh, các đơn vị duy trì mã nguồn mở và các chính phủ trên khắp thế giới đều có vai trò thiết yếu cần phải thực hiện.” Anthropic đã không phản hồi ngay yêu cầu xin bình luận từ Decrypt.