Três adolescentes processam xAI nos EUA, acusando Grok de gerar imagens de exploração sexual infantil

Gate News notícia, 18 de março, três jovens mulheres apresentaram uma ação no tribunal federal da Califórnia contra a empresa de inteligência artificial xAI, fundada por Elon Musk, acusando o seu chatbot Grok de gerar imagens de exploração sexual infantil envolvendo as mesmas, sem o consentimento das partes. A ação solicita uma compensação não especificada e uma ordem de restrição imediata para impedir que o Grok continue a criar esse tipo de conteúdo. As três demandantes optaram por permanecer anónimas, sendo duas menores de idade. Segundo a queixa, utilizadores manipularam as fotos das demandantes com a função de processamento de imagens do Grok, transformando-as em imagens nuas ou de violência sexual, e as divulgaram em servidores privados do Discord, afetando pelo menos 18 menores. Uma das demandantes descobriu, após receber uma mensagem privada anónima no Instagram, que a sua foto de formatura do ensino médio tinha sido alterada para uma imagem de conotação sexual. O advogado das demandantes afirmou que a xAI tinha conhecimento de que a funcionalidade “Grok Imagine” (que inclui uma opção de “despir”) podia gerar esse tipo de conteúdo, mas optou por publicá-la, com o objetivo de impulsionar o crescimento de utilizadores do Grok e da plataforma social X. De acordo com o relatório do “Centro de Combate ao Ódio Digital”, essa funcionalidade gerou mais de 20 mil imagens sexualizadas envolvendo menores em apenas duas semanas após o seu lançamento.