A ação da Colúmbia Britânica liga a OpenAI ao ataque a uma escola em Tumbler Ridge por meio de uma suposta falha de intervenção. A província afirma que a empresa detectou sinais de risco na atividade da atiradora no ChatGPT, suspendeu uma conta, mas não avisou a Polícia Montada Real do Canadá (RCMP, na sigla em inglês). O processo foi apresentado em 21 de setembro, em tribunal federal de San Francisco, e cita a OpenAI e seu CEO, Sam Altman. O caso ainda não foi julgado; portanto, as alegações da província não são conclusões da Justiça.
17
19
O que ocorreu em Tumbler Ridge
Em 10 de fevereiro, Jesse Van Rootselaar, de 18 anos, matou oito pessoas — seis crianças e dois adultos — em Tumbler Ridge, na Colúmbia Britânica, e morreu em seguida por um ferimento de arma de fogo autoinfligido, segundo reportagens sobre o processo movido pela província.
22
Para o governo provincial, o ataque coloca em questão o desenho do produto e as práticas de comunicação de ameaças da OpenAI. A alegação é que a atiradora usou o ChatGPT antes da violência e que a empresa dispunha de informação suficientemente grave para justificar mais do que o encerramento de uma conta.
17
22
A principal acusação contra a OpenAI
A Colúmbia Britânica acusa a OpenAI de projetar e distribuir negligentemente um produto inseguro e de não alertar as autoridades sobre ameaças feitas no ChatGPT antes do ataque. A província sustenta que um alerta poderia ter chegado à polícia local e evitado a tragédia.
O governo busca compensação por custos públicos passados e futuros de recuperação, além de uma ordem judicial que obrigue a empresa a mudar a maneira como identifica e trata conversas no ChatGPT que possam levar à violência.
17
25
Essa sequência hipotética — o que a polícia saberia, quais medidas poderia tomar e se uma intervenção teria evitado o ataque — é um ponto central da disputa. Ela precisará ser examinada com provas e argumentos jurídicos, e não pode ser presumida apenas porque uma conta foi sinalizada.
A revisão da conta em junho de 2025
A OpenAI reconheceu que identificou, em junho de 2025, uma conta associada a Van Rootselaar por meio de seus sistemas de detecção de abuso e aplicação de regras, que incluem esforços para identificar o uso de modelos com finalidade violenta. A empresa baniu a conta.
33
Segundo a OpenAI, ela não comunicou o caso às autoridades porque as informações disponíveis naquele momento não apontavam para um plano crível e iminente de causar dano físico grave — o patamar exigido pela empresa para encaminhar um caso às forças de segurança.
33
43
A ação da Colúmbia Britânica contesta se essa resposta foi suficiente. Na visão da província, a revisão interna e o banimento eram sinais que deveriam ter levado a OpenAI a contatar a RCMP. A empresa disse posteriormente que, sob protocolos de segurança adotados depois de junho de 2025, teria notificado a polícia sobre a conta.
39
44
Por que o histórico das conversas é relevante
O registro público não contém todas as conversas no ChatGPT. A procuradora-geral da Colúmbia Britânica, Niki Sharma, afirmou que a OpenAI se recusou a fornecer à província o histórico de chats da atiradora. Isso limita a possibilidade de o público avaliar de forma independente o nível de especificidade das conversas, o processo interno de decisão da empresa e a chance real de uma intervenção caso a polícia tivesse sido avisada.
37
Essa lacuna também explica por que o caso exige cautela na descrição: as ações tratam de supostas falhas de design, detecção, escalonamento e prevenção de danos — e não de conclusões comprovadas sobre o que exatamente o chatbot disse ou causou.
Outras ações e a questão de contornar o banimento
Familiares das vítimas, sobreviventes, estudantes e educadores apresentaram ações relacionadas na Califórnia. A OpenAI pediu a extinção de mais de três dezenas de processos, argumentando, entre outros pontos, que as reivindicações ligadas a mortes e ferimentos na Colúmbia Britânica deveriam tramitar lá, e não na Califórnia.
26
28
Outras alegações levantam a dúvida sobre se banir uma conta, por si só, é uma medida de segurança eficaz. A OpenAI informou que a atiradora criou uma segunda conta após a suspensão de junho de 2025 e que a empresa só tomou conhecimento dela depois do ataque. A companhia afirmou que está tornando mais difícil que usuários banidos retornem ao serviço.
36
45
O que dizem a OpenAI e Sam Altman
A OpenAI manifestou pesar pelo ataque, afirmou ter tolerância zero ao uso de suas ferramentas para facilitar violência e disse ter reforçado suas proteções. Reportagens sobre os processos posteriores também relataram um pedido de desculpas de Altman.
38
39
A posição central da empresa é mais restrita: banir a conta em junho de 2025 foi uma resposta adequada às informações de que dispunha, e a atividade não atingia o padrão então adotado para reportar à polícia uma ameaça iminente e crível.
33
43
O que a província pede
A Colúmbia Britânica busca indenização por gastos com a resposta emergencial e a recuperação da comunidade, incluindo custos relacionados à substituição da escola, além de mudanças nas práticas da OpenAI para lidar com possível uso violento do ChatGPT.
17
23
O processo coloca uma questão mais ampla para empresas de inteligência artificial: quando uma plataforma identifica atividade violenta, mas não tem certeza de que um ataque é iminente, ela tem o dever de comunicar isso às autoridades? Neste caso, a Justiça ainda não respondeu a essa pergunta.