Irlanda abre una investigación sobre X por el presunto papel de Grok en imágenes sexualizadas generadas por IA
El regulador de privacidad de Irlanda ha iniciado una investigación formal contra X debido a preocupaciones de que el chatbot de IA de Elon Musk, Grok, podría haber ayudado a generar y distribuir imágenes sexualizadas no consentidas, incluyendo imágenes que involucran a menores. La investigación representa una escalada significativa en la creciente represión internacional contra las herramientas de “nudificación” impulsadas por IA y el contenido deepfake.
La investigación fue iniciada por la Comisión de Protección de Datos de Irlanda (DPC) contra X Internet Unlimited Company (XIUC), la entidad legal registrada en la UE a través de la cual opera la plataforma en Europa. La pesquisa se enmarca en la Ley de Protección de Datos de Irlanda de 2018 y examinará si las herramientas de IA generativa de Grok estuvieron involucradas en la creación y publicación de imágenes íntimas potencialmente dañinas sin consentimiento.
Como la autoridad supervisora principal de X en la Unión Europea y el Espacio Económico Europeo, la DPC evaluará el cumplimiento de las disposiciones clave del Reglamento General de Protección de Datos (GDPR). Esto incluye verificar si la empresa cumplió con los principios de procesamiento legal, los estándares de privacidad desde el diseño, y si se debería haber realizado una evaluación de impacto en la protección de datos antes de desplegar dichas capacidades de IA.
El Centro para Contrarrestar el Odio Digital (CCDH) informó que Grok generó más de 23,000 imágenes sexualizadas que representan a menores en un período de 11 días entre finales de diciembre y principios de enero. Los investigadores encontraron que aproximadamente un tercio de las imágenes muestreadas seguían accesibles en la plataforma a pesar de las políticas de tolerancia cero declaradas por X. Tras la reacción pública, X restringió las funciones de generación de imágenes de Grok a sus suscriptores de pago, introdujo salvaguardas técnicas para evitar manipulaciones en la ropa de las personas en las imágenes, y bloqueó geográficamente la herramienta en jurisdicciones donde dicho contenido es ilegal.
La presión regulatoria global se intensifica
La acción de Irlanda se suma a un creciente escrutinio internacional. En enero, la Comisión Europea abrió una investigación formal bajo el Digital Services Act sobre el supuesto papel de X en la generación y difusión de contenido ilegal vinculado a Grok. Poco después, las autoridades francesas allanaron las oficinas de X en París en coordinación con Europol como parte de una investigación criminal.
En el Reino Unido, tanto Ofcom como la Oficina del Comisionado de Información iniciaron investigaciones separadas sobre la plataforma. El primer ministro Keir Starmer indicó que podrían buscarse nuevos poderes parlamentarios para que los proveedores de chatbots de IA estén más directamente bajo las leyes de seguridad en línea. Los reguladores advirtieron que el incumplimiento podría resultar en medidas respaldadas por la justicia, incluyendo posibles restricciones en el servicio.
En Australia, el Comisionado de Seguridad en Línea reportó un aumento significativo en las quejas relacionadas con imágenes sexuales generadas por IA sin consentimiento vinculadas a Grok. Mientras tanto, el Fiscal General de California, Rob Bonta, anunció una investigación formal sobre xAI y su chatbot por la creación y difusión de imágenes explícitas generadas por IA que involucran a mujeres y menores.
Organizaciones internacionales también están alertando. UNICEF describió recientemente los deepfakes sexuales de IA como una “escalada profunda” de los riesgos que enfrentan los niños en entornos digitales, citando estimaciones de que al menos 1.2 millones de niños fueron objetivo el año pasado. La agencia instó a los gobiernos a criminalizar el material de abuso generado por IA y a exigir salvaguardas de seguridad desde el diseño en los sistemas de IA generativa.
A medida que las investigaciones se expanden a múltiples jurisdicciones, el caso contra X y Grok subraya un cambio regulatorio más amplio. Los gobiernos están pasando cada vez más de una aplicación reactiva a una supervisión proactiva de los sistemas de IA generativa, especialmente cuando están en juego la protección infantil y los derechos de privacidad.