Tin tức Gate News: các nhà nghiên cứu của Google DeepMind cảnh báo rằng, môi trường Internet cởi mở có thể bị lợi dụng để chiếm quyền các tác nhân AI tự chủ, từ đó thao túng hành vi của chúng. Báo cáo có tên “Bẫy tác nhân AI” nêu rằng, khi doanh nghiệp triển khai các tác nhân AI để thực hiện các nhiệm vụ thực tế, kẻ tấn công cũng có thể tiến hành các cuộc tấn công có mục tiêu thông qua mạng. Nghiên cứu đã xác định sáu rủi ro chính, bao gồm: bẫy chèn nội dung, bẫy thao túng ngữ nghĩa, bẫy trạng thái nhận thức, bẫy kiểm soát hành vi, bẫy hệ thống và bẫy tương tác người–máy.
Bẫy chèn nội dung là trực tiếp nhất; kẻ tấn công có thể đặt chỉ dẫn trong các bình luận HTML, siêu dữ liệu hoặc các phần tử trang ẩn, sau khi tác nhân đọc được thì có thể thực thi. Bẫy thao túng ngữ nghĩa được thực hiện bằng cách tải các cách diễn đạt mang tính “thẩm quyền” hoặc ngụy trang thành các trang web thuộc môi trường nghiên cứu, âm thầm ảnh hưởng đến cách tác nhân hiểu nhiệm vụ, đôi khi thậm chí còn vượt qua các cơ chế an toàn. Bẫy trạng thái nhận thức hoạt động bằng cách cấy dữ liệu giả vào các nguồn thông tin của tác nhân, khiến nó trong thời gian dài tin nhầm rằng các thông tin này đã được xác minh. Bẫy kiểm soát hành vi thì nhắm vào thao tác thực tế của tác nhân, có thể dẫn dụ nó truy cập dữ liệu nhạy cảm và truyền chúng tới mục tiêu bên ngoài.
Bẫy hệ thống liên quan đến sự thao túng phối hợp giữa nhiều hệ thống AI, có thể gây ra hiệu ứng dây chuyền, tương tự như việc giao dịch theo thuật toán khiến thị trường sụp đổ đột ngột. Bẫy tương tác người–máy tận dụng khâu kiểm duyệt thủ công: bằng cách tạo ra nội dung kiểm duyệt trông có vẻ đáng tin, các hành vi gây hại có thể lách qua sự giám sát.
Để ứng phó rủi ro, DeepMind đề xuất kết hợp huấn luyện đối kháng, lọc đầu vào, giám sát hành vi và hệ thống uy tín nội dung mạng, đồng thời xây dựng khung trách nhiệm pháp lý rõ ràng hơn. Tuy nhiên, nghiên cứu cho thấy ngành hiện vẫn thiếu các tiêu chuẩn phòng vệ thống nhất; các biện pháp hiện có thường phân tán và tập trung không đồng đều. Nghiên cứu kêu gọi các nhà phát triển và doanh nghiệp chú ý đến an toàn môi trường vận hành của các tác nhân AI, phòng ngừa các rủi ro tiềm ẩn về thao túng trên mạng và lạm dụng.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Kẻ lừa đảo giả mạo quan chức Iran đòi Bitcoin và USDT từ các tàu ở eo biển Hormuz
Tin cổng Gate, ngày 21 tháng 4 — Những kẻ lừa đảo giả danh các quan chức Iran đang yêu cầu Bitcoin (BTC) và Tether (USDT) làm phí trung chuyển từ các tàu hoạt động qua eo biển Hormuz, theo cảnh báo của MARISKS, một công ty quản lý rủi ro hàng hải có trụ sở tại Hy Lạp. Kế hoạch này hứa hẹn sai sự thật về "ủy quyền cho lộ trình trung chuyển an toàn"
GateNews2giờ trước
Vụ Hack Crypto Làm Chậm Tham Vọng Blockchain Của Phố Wall $300M Tháng 5
Tin tức từ Gate News, ngày 21 tháng 4 — Một vụ hack trong cuối tuần đã rút cạn gần $300 triệu USD từ một dự án crypto nhỏ và kích hoạt dòng rút $10 tỷ USD trên nền tảng cho vay phi tập trung lớn nhất có thể làm chậm sự quan tâm ngày càng tăng của Phố Wall đối với công nghệ blockchain, theo một báo cáo từ Jefferies LLC được phát hành
GateNews2giờ trước
Nhà nghiên cứu bảo mật công bố lỗ hổng 0-day của CometBFT; không thể trộm tài sản trực tiếp
Tin từ Gate News, ngày 21 tháng 4 — Nhà nghiên cứu bảo mật Doyeon Park đã công bố một lỗ hổng 0-day nghiêm trọng (CVSS 7.1) trong CometBFT, lớp đồng thuận của Cosmos, theo một bài đăng trên X. Lỗ hổng có thể khiến các nút mạng bị treo khi đồng bộ khối, làm gián đoạn hoạt động của hệ thống, nhưng không thể dẫn đến việc trộm tài sản trực tiếp, nhưng không thể dẫn đến việc trộm tài sản trực tiếp, nhưng không thể dẫn đến việc trộm tài sản trực tiếp, nhưng không thể dẫn đến việc trộm tài sản trực tiếp, nhưng không thể dẫn đến việc trộm tài sản trực tiếp, nhưng không thể dẫn đến việc trộm tài sản trực tiếp, nhưng không thể d
GateNews5giờ trước
Kẻ mạo danh cảnh sát ép cặp đôi ở Pháp chuyển gần $1M bằng Bitcoin
Tội phạm giả làm cảnh sát ở Pháp đã ép một cặp đôi chuyển gần $1M bằng Bitcoin, sử dụng nỗi sợ và quyền lực trong một "vụ tấn công bằng cờ-lê" khai thác con người, không phải ví.
Tóm tắt: Kẻ tấn công đã dùng mạo danh và cưỡng ép tâm lý để buộc phải chuyển Bitcoin, minh họa một vụ tấn công bằng cờ-lê nhắm vào điểm yếu của con người thay vì các lỗ hổng khai thác ví kỹ thuật.
GateNews6giờ trước
Ngăn chặn thành công vụ cướp có vũ trang nhắm vào chuyên gia crypto người Pháp; nghi phạm bị bắt
Tin tức Cổng, ngày 21 tháng 4 — Một chuyên gia trong ngành crypto 40 tuổi tại Saint-Jean-de-Védas, gần Montpellier, Pháp, đã ngăn chặn một vụ cướp có vũ trang nhắm vào nhà anh. Kẻ tình nghi, giả dạng người giao hàng, đã vào nơi ở và yêu cầu nạn nhân giao nộp khóa riêng ví cryptocurrency
GateNews6giờ trước
