Tres adolescentes demandan a xAI en Estados Unidos, acusando a Grok de generar imágenes de explotación sexual infantil

Gate News informó que el 18 de marzo, tres adolescentes presentaron una demanda contra la empresa de inteligencia artificial xAI de Elon Musk en un tribunal federal de California, acusando a su chatbot Grok de generar imágenes de explotación sexual infantil que las involucraban sin el consentimiento de las partes. La demanda busca una cantidad no especificada de compensación y una orden judicial inmediata para impedir que Grok continúe generando dicho contenido. Los tres demandantes optaron por permanecer en el anonimato, dos de ellos menores de edad. La denuncia alega que los usuarios utilizaron las capacidades de procesamiento de imágenes de Grok para manipular las fotos de los demandantes, dejarlos desnudos o sexualmente violentos, y difundirlas en un servidor privado de Discord, con víctimas que iban de al menos 18 menores. Uno de los demandantes descubrió, tras recibir un mensaje privado anónimo por Instagram, que su foto de graduación del instituto había sido manipulada como una imagen de contenido sexualmente sugerente. Los abogados de los demandantes señalaron que xAI decidió publicarlo públicamente a pesar de saber que la función “Grok Imagine” de Grok (incluida la opción “Desnudarte”) podría generar ese tipo de contenido, con la intención de impulsar el crecimiento de usuarios en Grok y en la plataforma social X. Según el Center for Combating Digital Hate, la sección ha generado más de 20.000 imágenes sexualizadas que involucran a menores en las dos semanas posteriores a su lanzamiento.