EU điều tra X về cáo buộc không kiểm soát được nội dung AI trái phép của Grok

Tóm tắt

• EU đã bắt đầu điều tra xem X có đánh giá đúng các rủi ro trước khi triển khai các tính năng AI của Grok hay không.
• Cuộc điều tra sẽ xem xét việc X có tuân thủ các nghĩa vụ của Luật Dịch vụ Kỹ thuật số của khu vực hay không.
• Đây là đợt siết chặt mới nhất của châu Âu đối với các deepfake do AI tạo ra, với nhiều quốc gia cấm Grok vì lo ngại về an toàn trẻ em.

Ủy ban Châu Âu đã khởi xướng một cuộc điều tra chính thức vào thứ Hai về việc liệu X có vi phạm các quy định số của EU bằng cách cáo buộc không ngăn chặn chatbot AI Grok của mình tạo ra và lan truyền nội dung bất hợp pháp, bao gồm hình ảnh khiêu dâm trẻ em. Cuộc điều tra sẽ đánh giá xem công ty có đánh giá và giảm thiểu đúng các rủi ro trước khi triển khai các tính năng tạo hình ảnh của Grok hay không, theo tuyên bố của Ủy ban vào thứ Hai. Ủy ban cũng cho biết các rủi ro đã hiện hữu thông qua việc tạo ra và lan truyền nội dung khiêu dâm bất hợp pháp, gây nguy hiểm nghiêm trọng cho công dân EU. 

Điều này diễn ra trong bối cảnh ngày càng có nhiều sự chú ý quốc tế về vai trò của Grok trong việc tạo ra các deepfake không có sự đồng ý. Hai tuần trước, X đã thực hiện các hạn chế, giới hạn việc tạo hình ảnh cho các thuê bao trả phí, và thêm các rào cản kỹ thuật để ngăn người dùng chỉnh sửa kỹ thuật số để làm lộ quần áo của người khác. Công ty cũng đã chặn tính năng này ở các khu vực pháp lý nơi nội dung như vậy bị cấm. Dù đã có các biện pháp này, các nhà nghiên cứu phát hiện rằng khoảng một phần ba các hình ảnh khiêu dâm trẻ em trong mẫu CCDH vẫn còn khả dụng trên nền tảng của X. "Với cuộc điều tra này, chúng tôi sẽ xác định xem X có đáp ứng các nghĩa vụ pháp lý theo DSA hay không, hoặc liệu họ có coi quyền của công dân châu Âu—bao gồm cả phụ nữ và trẻ em—là thiệt hại phụ của dịch vụ của họ hay không,” Henna Virkkunen, Phó Chủ tịch điều hành về Chủ quyền Công nghệ, An ninh và Dân chủ, nói trong tuyên bố.

Đầu tháng này, người phát ngôn của Ủy ban EU Thomas Regnier đã lên án tính năng “Chế độ Cay” của X tại một cuộc họp báo ở Brussels. “Đây không phải là cay. Đây là bất hợp pháp. Đây là đáng ghê tởm. Đây là kinh tởm. Nó không có chỗ trong châu Âu,” Regnier nói. Fraser Edwards, đồng sáng lập và CEO của cheqd, nói với Decrypt rằng “mọi nhà sáng tạo đều nên có khả năng kiểm soát cách hình ảnh của họ được sử dụng trong các phương tiện do AI tạo ra.” Anh ấy cho biết “phản ứng dữ dội về việc lạm dụng deepfake nhấn mạnh một thất bại cơ bản của chính internet.” “Vẫn chưa có cách tự nhiên để xác minh ai đã tạo ra một nội dung tổng hợp hoặc liệu việc sử dụng nó có được phép hay không,” Edwards bổ sung, để trách nhiệm tiếp tục “chủ yếu dựa vào các trung gian như X thay vì những người chịu trách nhiệm tạo ra nội dung lạm dụng.” Nếu được chứng minh, các sai sót trong quá trình điều tra này sẽ cấu thành vi phạm các Điều 34(1) và (2), 35(1), và 42(2) của Luật Dịch vụ Kỹ thuật số, yêu cầu các nền tảng đánh giá và giảm thiểu các rủi ro hệ thống, bao gồm việc lan truyền nội dung bất hợp pháp và các tác động tiêu cực liên quan đến bạo lực dựa trên giới tính. Cuộc điều tra của EU mở rộng một vụ án DSA cuối năm 2023 đã dẫn đến khoản phạt 140 triệu USD (€120 triệu) đối với X vào tháng 12 vì các hành vi thiết kế lừa đảo, thiếu minh bạch trong quảng cáo, và hạn chế quyền truy cập của nhà nghiên cứu. Ủy ban đã mở rộng sự giám sát đối với Grok, bao gồm cả các mối quan tâm trước đó về nội dung chống Do Thái do chatbot này tạo ra.

Decrypt đã liên hệ với xAI để lấy ý kiến thêm.