xAI é processada: Grok é acusada de gerar imagens de deepfake com conotações sexuais, levantando controvérsias sobre privacidade e ética em IA

1月16日消息，据美国媒体披露，保守派网络意见领袖 Ashley St. Clair 已正式向纽约州法院提起诉讼，起诉 Elon Musk 旗下人工智能公司 xAI，指控其聊天机器人 Grok 在未经本人同意的情况下，利用深度伪造技术篡改其照片，并生成具有明显性暗示的图像内容。

De acordo com os documentos apresentados, o Grok foi acusado de modificar uma foto de St. Clair com duas amigas, removendo suas roupas e mantendo apenas o visual de biquíni preto. Os documentos afirmam que, quando St. Clair manifestou objeções diretamente à conta relacionada ao Grok, a resposta foi que a imagem fazia parte de uma “resposta humorística”, e que a solicitação de exclusão havia sido feita, mas o conteúdo ainda assim continuou a ser divulgado na plataforma.

A ação judicial também aponta que, mesmo após sua oposição explícita, uma grande quantidade de conteúdo de deepfake envolvendo assédio sexual, invasão de privacidade e insultos continuou a aparecer na plataforma. Ainda mais grave, alguns usuários carregaram fotos dela na época de 14 anos e instruíram o chatbot a “despir” e sexualizar imagens de menores, o que, segundo a acusação, o Grok executou.

Além da controvérsia sobre as imagens, St. Clair também acusa a xAI e suas plataformas associadas de implementar “medidas de retaliação”, incluindo a cancelamento de sua elegibilidade para monetização, remoção do selo de verificação azul e restrição do uso de serviços de assinatura premium. A ação judicial afirma que essas ações agravaram os danos à reputação pessoal e aos direitos econômicos dela.

Nas redes sociais, St. Clair chegou a afirmar publicamente que o tratamento dado pelo Grok às suas fotos de infância foi “chocante e potencialmente ilegal”, e pediu que vítimas com experiências semelhantes entrassem em contato com ela. Ela também alertou o público para ter cautela ao fazer upload de fotos pessoais e de familiares nas plataformas relacionadas.

Atualmente, a xAI apresentou pedido de transferência do caso para o Tribunal Federal do Distrito Sul de Nova York. A advogada de St. Clair, Kelly Goldberg, afirmou que o objetivo principal do processo é conscientizar a sociedade sobre os riscos do deepfake gerado por IA, especialmente no que diz respeito à privacidade e segurança de mulheres e menores. O incidente também reacende o debate sobre governança de conteúdo de IA, responsabilidade tecnológica e limites legais.