Cơ quan giám sát dữ liệu của Ireland gia nhập các nhà quản lý toàn cầu điều tra X về rủi ro hình ảnh AI

Tóm tắt ngắn gọn

• Ủy ban Bảo vệ Dữ liệu Ireland (DPC) đã mở cuộc điều tra quy mô lớn về GDPR đối với X liên quan đến việc Grok tạo ra hình ảnh tình dục không có sự đồng ý, bao gồm cả hình ảnh của trẻ em.
• Cuộc điều tra xem xét liệu X có tuân thủ các nghĩa vụ cốt lõi của GDPR trong cách triển khai các tính năng hình ảnh của Grok cho người dùng EU hay không.
• Cuộc điều tra là đợt mới nhất trong làn sóng quy định toàn cầu nhằm vào Grok, với các hành động chính thức đã mở ra ở châu Âu, Vương quốc Anh, Úc và Mỹ.

Cơ quan bảo vệ quyền riêng tư của Ireland đã mở cuộc điều tra chính thức về X liên quan đến việc liệu chatbot Grok của Elon Musk có giúp tạo ra và lan truyền hình ảnh tình dục không có sự đồng ý, bao gồm cả của trẻ em hay không, làm tăng thêm áp lực trong cuộc đàn áp toàn cầu ngày càng mở rộng đối với các công cụ “lột xác” AI. Ủy ban Bảo vệ Dữ liệu (DPC) đã bắt đầu cuộc điều tra đối với Công ty Internet X Unlimited (XIUC), pháp nhân đăng ký tại EU, qua đó nền tảng mạng xã hội của Elon Musk hoạt động tại châu Âu, theo Luật Bảo vệ Dữ liệu Ireland 2018, tập trung vào “việc tạo ra và công bố trên nền tảng X, các hình ảnh có thể gây hại, không có sự đồng ý, mang tính thân mật và/hoặc tình dục… bao gồm cả trẻ em” sử dụng các công cụ AI tạo sinh của Grok. Cơ quan giám sát cho biết đã thông báo cho XIUC về quyết định bắt đầu cuộc điều tra và sẽ đánh giá việc tuân thủ các yêu cầu cốt lõi của GDPR, bao gồm các nguyên tắc xử lý dữ liệu, cơ sở hợp pháp, quyền riêng tư theo thiết kế, và liệu có cần thực hiện đánh giá tác động bảo vệ dữ liệu hay không. 

“Với vai trò Cơ quan Giám sát Chính trong phạm vi EU/EEA đối với XIUC, DPC đã bắt đầu một cuộc điều tra quy mô lớn nhằm xem xét việc XIUC có tuân thủ các nghĩa vụ cơ bản của GDPR liên quan đến các vấn đề này hay không,” Phó Ủy viên Graham Doyle nói trong tuyên bố. Cuộc điều tra diễn ra trong bối cảnh Ireland, quốc gia giữ vai trò cơ quan giám sát chính của EU đối với hầu hết các nền tảng công nghệ lớn của Mỹ, có các quyết định mang tính ràng buộc trên toàn khối, tham gia vào phản ứng quốc tế ngày càng mở rộng đối với vai trò của Grok trong việc tạo ra các deepfake không có sự đồng ý quy mô lớn. Trung tâm Chống lại Thù ghét Kỹ thuật số (CCDH) đã báo cáo tháng trước rằng Grok đã tạo ra khoảng 23.338 hình ảnh tình dục hóa trẻ em trong vòng 11 ngày từ ngày 29 tháng 12 đến ngày 9 tháng 1, và các nhà nghiên cứu phát hiện khoảng một phần ba trong số các hình ảnh mẫu vẫn còn truy cập được trên X mặc dù nền tảng có chính sách không khoan nhượng đối với nội dung này. Sau phản ứng dữ dội, X đã hạn chế việc tạo và chỉnh sửa hình ảnh của Grok chỉ dành cho người đăng ký trả phí, thêm các rào cản kỹ thuật để ngăn người dùng chỉnh sửa kỹ thuật số để khiến người khác mặc quần áo lộ rõ, và chặn tính năng này theo vị trí pháp lý nơi nội dung như vậy bị cấm. Decrypt đã liên hệ với xAI để lấy ý kiến bình luận. Cuộc đàn áp quy định toàn cầu Vào tháng 1, Ủy ban Châu Âu đã mở cuộc điều tra chính thức về X theo Luật Dịch vụ Kỹ thuật số (Digital Services Act) liên quan đến vai trò của Grok trong việc tạo ra và lan truyền nội dung tình dục bất hợp pháp. Chỉ vài ngày sau, các cơ quan Pháp đã đột kích văn phòng X tại Paris phối hợp với Europol, triệu tập Musk cùng một số giám đốc điều hành để thẩm vấn. Tại Vương quốc Anh, cả Ofcom và Văn phòng Ủy viên Thông tin (ICO) đều mở các cuộc điều tra riêng biệt, với Ofcom cảnh báo có thể tìm kiếm các biện pháp hỗ trợ của tòa án để chặn dịch vụ của X nếu phát hiện vi phạm, trong khi Thủ tướng Keir Starmer nói rằng ông sẽ tìm kiếm quyền lực mới của quốc hội để đưa các nhà cung cấp chatbot AI vào luật an toàn trực tuyến. Ủy viên An toàn Trực tuyến của Úc, Julie Inman Grant, cho biết các đơn khiếu nại liên quan đến Grok và hình ảnh tình dục do AI tạo ra không có sự đồng ý đã tăng gấp đôi trong những tháng gần đây, và văn phòng của bà sẽ sử dụng quyền thực thi khi cần thiết. Công tố viên trưởng California, Rob Bonta, đã công bố cuộc điều tra chính thức về xAI và Grok liên quan đến việc tạo ra và lan truyền các hình ảnh AI mang tính chất tình dục không có sự đồng ý của phụ nữ và trẻ em. Đầu tháng này, UNICEF gọi các deepfake tình dục do AI tạo ra là “một sự leo thang sâu sắc của các rủi ro mà trẻ em phải đối mặt trong môi trường kỹ thuật số,” nói rằng ít nhất 1,2 triệu trẻ em đã bị nhắm mục tiêu trong năm ngoái và kêu gọi các chính phủ hình sự hóa các nội dung lạm dụng do AI tạo ra và yêu cầu các biện pháp an toàn theo thiết kế.