Processo contra a OpenAI por falha em alertar a polícia no tiroteio de Tumbler Ridge

A OpenAI enfrenta um processo judicial alegando que a empresa não conseguiu alertar a polícia depois que o ChatGPT foi associado a um tiroteio em massa em Tumbler Ridge, na Colúmbia Britânica, de acordo com uma reportagem do Decrypt. A ação foi protocolada na quarta-feira em um tribunal federal no norte da Califórnia por uma menor de 12 anos não identificada, identificada como M.G., e sua mãe, Cia Edmonds, contra o CEO da OpenAI, Sam Altman, e várias entidades da OpenAI. A ação acusa a empresa de negligência, de não avisar as autoridades, de responsabilidade pelo produto e de ajudar a viabilizar o tiroteio em massa.

Contexto sobre o Tiroteio

O caso se origina de um tiroteio em massa em Tumbler Ridge, na Colúmbia Britânica, em fevereiro. As autoridades dizem que a 18-year-old Jesse Van Rootselaar matou sua mãe e seu padrasto de 11-year-old em casa antes de ir à Tumbler Ridge Secondary School e abrir fogo. Cinco crianças e uma educadora foram mortas na escola antes de Van Rootselaar morrer por suicídio.

Entre os feridos estava M.G., que foi baleada três vezes e permanece internada com lesões cerebrais catastróficas. A denúncia afirma que ela está acordada e ciente, mas não consegue se mover nem falar.

Suposta Falha da OpenAI em Alertar as Autoridades

De acordo com a ação, os sistemas automatizados da OpenAI sinalizaram a conta do ChatGPT de Van Rootselaar em junho de 2025 para conversas envolvendo violência armada e planejamento. Membros da equipe especializada de segurança da OpenAI revisaram os chats e determinaram que a usuária representava uma ameaça credível e específica, recomendando que a Polícia Montada Real do Canadá fosse notificada.

A ação alega que líderes da OpenAI contrariaram recomendações internas para alertar as autoridades, desativaram a conta de Van Rootselaar sem notificar a polícia e permitiram que ela retornasse criando uma nova conta com um endereço de e-mail diferente.

Jay Edelson, fundador e CEO da Edelson PC, os advogados que representam várias das famílias que processam a OpenAI, afirmou que os próprios sistemas internos da empresa identificaram o risco. “O próprio sistema da OpenAI sinalizou que o atirador estava envolvido em comunicações sobre violência planejada”, Edelson disse ao Decrypt. “Doze pessoas na equipe de segurança estavam pulando para cima e para baixo, dizendo que a OpenAI precisava alertar as autoridades. E, embora a resposta de Sam Altman tenha sido fraca, até ele foi forçado a admitir na semana passada que eles deveriam ter ligado para as autoridades.”

A denúncia cita a ação afirmando: “Sam Altman e sua equipe de liderança sabiam o que o silêncio significava para os cidadãos de Tumbler Ridge. Eles estavam focados no que a divulgação significaria para eles mesmos. Avisar a RCMP estabeleceria um precedente: a OpenAI seria compelida a notificar as autoridades toda vez que sua equipe de segurança identificasse um usuário planejando violência no mundo real.”

Alegações dos Autores sobre o Papel do ChatGPT

Os autores alegam que o ChatGPT aprofundou a fixação violenta do atirador por meio de recursos como memória, continuidade conversacional e sua disposição para se envolver em discussões sobre violência. A ação alega que a OpenAI enfraqueceu salvaguardas em 2024 ao se afastar de recusações diretas em conversas envolvendo dano iminente.

Resposta da OpenAI e Pedido de Desculpas de Altman

Na semana passada, Sam Altman pediu desculpas publicamente à comunidade de Tumbler Ridge pela falha da empresa em alertar a polícia. Em uma carta inicialmente reportada pelo veículo canadense Tumbler Ridgelines, Altman reconheceu que a OpenAI deveria ter reportado a conta depois de bani-la em junho de 2025 por atividades relacionadas a conduta violenta.

Um porta-voz da OpenAI disse ao Decrypt: “Os eventos em Tumbler Ridge são uma tragédia. Temos uma política de tolerância zero para usar nossas ferramentas para ajudar a cometer violência. Como compartilhamos com autoridades canadenses, já fortalecemos nossas salvaguardas, incluindo melhorar como o ChatGPT responde a sinais de sofrimento, conectar pessoas com apoio local e recursos de saúde mental, fortalecer como avaliamos e escalamos ameaças potenciais de violência e melhorar a detecção de violadores recorrentes de políticas.”

Demandas dos Autores

Edelson disse que as famílias e a comunidade de Tumbler Ridge estão exigindo mais transparência e responsabilidade da empresa. “A OpenAI deve parar de esconder informações críticas das famílias, e elas não devem manter um produto perigoso no mercado, o que está fadado a levar a mais mortes”, disse Edelson. “Finalmente, eles precisam pensar por muito tempo e com seriedade sobre como podem manter uma equipe de liderança que se importa mais em correr para um IPO do que com vidas humanas.”

Ações Judiciais Relacionadas Contra a OpenAI

A OpenAI já enfrenta outras ações judiciais ligadas ao alegado papel do ChatGPT em danos no mundo real. Em dezembro, um caso de morte indevida foi protocolado acusando a OpenAI e a Microsoft de “projetar e distribuir um produto defeituoso” na forma do agora depreciado modelo GPT-4o. A ação alega que o ChatGPT reforçou as crenças paranoicas de Stein-Erik Soelberg antes de ele matar sua mãe, Suzanne Adams, e depois a si mesmo em sua casa em Greenwich, Connecticut.

J. Eli Wade-Scott, sócio-gerente da Edelson PC, disse ao Decrypt na época: “Este é o primeiro caso buscando responsabilizar a OpenAI por causar violência a um terceiro. Estamos pedindo que a aplicação da lei comece a pensar sobre quando tragédias como esta acontecem, o que aquele usuário estava dizendo ao ChatGPT e o que o ChatGPT estava dizendo a eles para fazer.”