Powell, Bessent Cảnh Báo Các Ngân Hàng Về Rủi Ro An Ninh Từ AI Mythos Của Anthropic: Bloomberg

Tóm tắt nhanh

• Các quan chức Hoa Kỳ đã cảnh báo các ngân hàng lớn về rủi ro an ninh mạng liên quan đến mô hình AI Mythos của Anthropic, theo Bloomberg.
• Hệ thống được cho là có thể xác định và khai thác các lỗ hổng trong hệ điều hành và trình duyệt.
• Anthropic có quyền truy cập hạn chế vào mô hình trong khi đánh giá các rủi ro bảo mật tiềm ẩn.

Bộ trưởng Tài chính Hoa Kỳ Scott Bessent và Chủ tịch Cục Dự trữ Liên bang Jerome Powell được cho là đã triệu tập một cuộc họp với các CEO ngân hàng Phố Wall vào đầu tuần này để cảnh báo về các rủi ro an ninh mạng gắn với một mô hình trí tuệ nhân tạo mới từ Anthropic. Theo một báo cáo của Bloomberg, cuộc họp có sự tham dự của các lãnh đạo từ Citigroup, Bank of America, Wells Fargo, Morgan Stanley và Goldman Sachs. Các quan chức đã thảo luận về mô hình AI mới của Anthropic là Mythos, gần đây đã thu hút sự quan ngại rộng rãi trước những khả năng an ninh mạng tiên tiến mà nó có vẻ sở hữu. Các quan chức đã triệu tập cuộc họp nhằm đảm bảo các ngân hàng hiểu rõ các rủi ro do các hệ thống có khả năng xác định và khai thác lỗ hổng phần mềm trên nhiều hệ điều hành và trình duyệt web, đồng thời khuyến khích các tổ chức củng cố phòng thủ trước các cuộc tấn công mạng có hỗ trợ bởi AI nhắm vào hạ tầng tài chính.

Các nhà nghiên cứu an ninh đã cảnh báo rằng các công cụ có khả năng tự động phát hiện lỗ hổng có thể làm tăng tốc cả công việc bảo mật mang tính phòng vệ lẫn các hoạt động tin tặc gây hại nếu bị lạm dụng.  Mô hình Mythos của Anthropic lần đầu xuất hiện trực tuyến vào tháng 3 sau khi các tài liệu nháp về hệ thống bị rò rỉ lên mạng, cho thấy những gì công ty mô tả là mô hình AI có năng lực nhất của họ cho đến nay. Trong quá trình thử nghiệm, hệ thống được cho là đã tìm thấy hàng nghìn lỗ hổng phần mềm chưa từng được biết đến trước đó, bao gồm các lỗ hổng zero-day trên các hệ điều hành và trình duyệt web lớn. Các nhà nghiên cứu của Anthropic cho biết trong một báo cáo vào đầu tuần này rằng các khả năng phát hiện lỗ hổng của Mythos Preview không được huấn luyện một cách cố ý, mà thay vào đó xuất hiện từ các cải tiến rộng hơn trong mã hóa, lập luận và tính tự chủ của mô hình.

“Những cải tiến tương tự giúp mô hình hiệu quả hơn đáng kể trong việc vá các lỗ hổng cũng khiến nó hiệu quả hơn đáng kể trong việc khai thác chúng,” công ty viết. Do những năng lực đó, Anthropic đã hạn chế quyền truy cập vào một nhóm nhỏ các tổ chức an ninh mạng. “Với sức mạnh của các năng lực đó, chúng tôi đang cân nhắc kỹ lưỡng cách thức công bố,” Anthropic cho biết trong một tuyên bố. “Như thông lệ trong toàn ngành, chúng tôi đang làm việc với một nhóm nhỏ khách hàng truy cập sớm để thử nghiệm mô hình. Chúng tôi coi mô hình này là một bước thay đổi và là mô hình có năng lực nhất mà chúng tôi đã xây dựng cho đến nay.” Để giải quyết rủi ro đó, Anthropic đang thử nghiệm Mythos thông qua Dự án Glasswing, một sự hợp tác với các công ty công nghệ và an ninh mạng lớn, sử dụng mô hình để xác định và vá các lỗ hổng trong phần mềm quan trọng trước khi kẻ tấn công có thể khai thác chúng. “Project Glasswing là điểm khởi đầu. Không một tổ chức nào có thể tự mình giải quyết các vấn đề an ninh mạng này,” công ty cho biết trong một tuyên bố. “Các nhà phát triển Frontier AI, các công ty phần mềm khác, các nhà nghiên cứu an ninh, những người duy trì mã nguồn mở và các chính phủ trên khắp thế giới đều có những vai trò thiết yếu cần phải đảm nhiệm.” Anthropic đã không phản hồi ngay yêu cầu bình luận của Decrypt.