El organismo de control de datos de Irlanda se une a reguladores globales que investigan a X por riesgos en imágenes de IA

En resumen

• La DPC de Irlanda ha abierto una investigación a gran escala bajo el RGPD sobre X por la generación de imágenes sexualizadas no consensuadas, incluyendo las de menores, mediante Grok.
• La investigación examina si X cumplió con las obligaciones principales del RGPD en la forma en que utilizó las funciones de imagen de Grok para los usuarios de la UE.
• La pesquisa es la última de una ola regulatoria global que apunta a Grok, con acciones formales abiertas en Europa, Reino Unido, Australia y EE. UU.

El regulador de privacidad de Irlanda ha abierto una investigación formal a X sobre si el chatbot Grok de Elon Musk ayudó a generar y difundir imágenes sexualizadas no consensuadas, incluyendo de menores, intensificando una creciente ofensiva global contra las herramientas de “nudificación” de IA. La Comisión de Protección de Datos (DPC) inició la pesquisa contra X Internet Unlimited Company (XIUC), la entidad legal registrada en la UE a través de la cual opera la plataforma social de Elon Musk en Europa, bajo la Ley de Protección de Datos de Irlanda de 2018, centrada en “la aparente creación y publicación en la plataforma X de imágenes potencialmente dañinas, sexualizadas y/o íntimas, no consensuadas… incluyendo menores” mediante las herramientas de IA generativa de Grok.
El organismo regulador informó que notificó a XIUC sobre la decisión de comenzar la investigación y evaluará el cumplimiento con los requisitos principales del RGPD, incluyendo principios de procesamiento, base legal, privacidad desde el diseño y si fue necesaria una evaluación de impacto en la protección de datos.


“Como Autoridad Supervisora Principal para XIUC en la UE/EEE, la DPC ha iniciado una investigación a gran escala que examinará el cumplimiento de XIUC con algunas de sus obligaciones fundamentales bajo el RGPD en relación con los asuntos en cuestión,” dijo en un comunicado el Comisionado Adjunto Graham Doyle.
La investigación llega en un momento en que Irlanda, que actúa como la principal autoridad supervisora de la UE para la mayoría de las grandes plataformas tecnológicas estadounidenses, otorgando peso vinculante a sus decisiones en todo el bloque, se une a una respuesta internacional cada vez mayor respecto al papel de Grok en la generación a gran escala de deepfakes no consensuados.
El Centro para Contrarrestar el Odio Digital (CCDH) informó el mes pasado que Grok generó aproximadamente 23,338 imágenes sexualizadas que representan a menores, en un período de 11 días desde el 29 de diciembre hasta el 9 de enero, y los investigadores encontraron que aproximadamente un tercio de esas imágenes muestreadas seguían accesibles en X a pesar de las políticas de tolerancia cero de la plataforma.
Tras la reacción negativa, X restringió la generación y edición de imágenes con Grok a suscriptores de pago, añadió barreras técnicas para impedir que los usuarios manipularan digitalmente a las personas para que revelaran ropa, y bloqueó geográficamente la función en jurisdicciones donde dicho contenido es ilegal.

Decrypt se ha puesto en contacto con xAI para solicitar comentarios.
Respuesta regulatoria global
En enero, la Comisión Europea abrió una investigación formal bajo la Ley de Servicios Digitales (DSA) sobre X por el supuesto papel de Grok en la generación y difusión de contenido sexualizado ilegal. Días después, las autoridades francesas registraron las oficinas de X en París en coordinación con Europol, y citaron a Musk y varios ejecutivos para ser interrogados.
En el Reino Unido, tanto Ofcom como la Oficina del Comisionado de Información abrieron investigaciones separadas, con Ofcom advirtiendo que podría solicitar medidas respaldadas por la justicia para bloquear efectivamente el servicio de X si se determina que no cumple con las normativas, mientras que el Primer Ministro Keir Starmer afirmó que buscaría nuevos poderes parlamentarios para regular a los proveedores de chatbots de IA bajo la ley de seguridad en línea.
La Comisionada de eSafety de Australia, Julie Inman Grant, afirmó que las quejas relacionadas con Grok y las imágenes sexualizadas generadas por IA sin consentimiento se han duplicado en los últimos meses, y que su oficina utilizaría sus poderes de aplicación cuando fuera necesario.
El Fiscal General de California, Rob Bonta, anunció una investigación formal sobre xAI y Grok por la creación y difusión de imágenes explícitas sexualmente no consentidas generadas por IA de mujeres y menores.
A principios de este mes, UNICEF calificó las deepfakes sexuales de IA como “una escalada profunda de los riesgos que enfrentan los niños en el entorno digital,” afirmando que al menos 1.2 millones de niños fueron objetivo el año pasado y exhortando a los gobiernos a criminalizar el material de abuso generado por IA y a implementar salvaguardas de seguridad desde el diseño.