OpenAI debateu ligar para a polícia sobre conversas de supostos atiradores canadenses

Um jovem de 18 anos que supostamente matou oito pessoas em um tiroteio em massa em Tumbler Ridge, Canadá, supostamente usou o ChatGPT da OpenAI de uma forma que alarmou a equipe da empresa.

Os bate-papos de Jesse Van Rootselaar descrevendo violência armada foram sinalizados por ferramentas que monitoram o LLM da empresa quanto a uso indevido e banidos em junho de 2025.

Os funcionários da empresa debateram se deveriam ou não entrar em contato com as autoridades canadenses sobre o comportamento, mas no final das contas não o fizeram, de acordo com para o Wall Street Journal. Um porta-voz da OpenAI disse que a atividade de Van Rootselaar não atendia aos critérios de denúncia às autoridades; a empresa entrou em contato com as autoridades canadenses após o incidente.

As transcrições do ChatGPT não foram a única parte preocupante da pegada digital de Van Rootselaar. Ela aparentemente criou um jogo no Roblox, plataforma de simulação mundial frequentada por crianças, que simulava um tiroteio em massa em um shopping. Ela também postou sobre armas no Reddit.

A instabilidade de Van Rootselaar também era conhecida pela polícia local, que foi chamada à casa de sua família depois que ela iniciou um incêndio sob a influência de drogas não especificadas.

Os chatbots LLM desenvolvidos pela OpenAI e seus concorrentes foram acusados ​​de desencadear colapsos mentais em usuários que perdem o controle da realidade enquanto conversam com modelos digitais. Múltiplo ações judiciais ter foram arquivados que citam transcrições de bate-papos que incentivam as pessoas a cometer suicídio ou oferecem assistência para fazê-lo.

Se você estiver em uma crise ou pensando em suicídio, ligue ou envie uma mensagem de texto para 988 para entrar em contato com o 988 Suicide and Crisis Lifeline.