Como ChatGPT identificou plano de pai para matar o filho e levou alerta para autoridades

Pai é preso no Espírito Santo após revelar intenção de matar filho ao ChatGPT O pai preso no Espírito Santo por planejar a morte do filho de 8 anos foi de...

Pai é preso no Espírito Santo após revelar intenção de matar filho ao ChatGPT O pai preso no Espírito Santo por planejar a morte do filho de 8 anos foi denunciado após conversar sobre o caso com o ChatGPT. A OpenAI, criadora do assistente de inteligência artificial, informou o ocorrido ao FBI, que repassou as informações às autoridades brasileiras. O homem foi preso em 19 de junho, um dia antes da data que havia escolhido para cometer o crime. Antes, escreveu no ChatGPT que estaria com uma arma, uma corda e veneno e que realizaria atentados em espaços públicos. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Procurada pelo g1, a OpenAI disse que seus sistemas são feitos para manter as pessoas seguras e que o caso mostra a importância dessas medidas. "Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes", disse a empresa. Pai que planejava matar o filho no Espírito Santo disse ao ChatGPT que ofereceu R$ 50 mil a pistoleiro Reprodução/PCES Nas mensagens, o homem escreveu que tentou contratar um pistoleiro por R$ 50 mil para matar o filho, mas que a proposta foi recusada após informar que a vítima era uma criança. "Queria saber de onde vem essa vontade de matar as pessoas. Eu gosto de ver outra pessoa sofrer", disse, em uma das mensagens. Assistentes como o ChatGPT monitoram tudo o que é dito em conversas, ainda que a maior parte da revisão seja feita por sistemas automatizados, disse Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp). "No caso do pai do Espírito Santo, a fronteira foi cruzada porque havia vítima identificada, método, meios e data próxima. Ou seja, o alerta disparado foi de máxima severidade", afirmou. Veja mensagens de pai ao ChatGPT enquanto planejava matar o filho de 8 anos Como o ChatGPT detecta casos suspeitos A OpenAI diz que começa a análise por meio de sistemas automatizados, que incluem modelos de IA capazes de categorizar conteúdos e fazer análises mais complexas sobre o contexto da conversa. A etapa inclui ainda bancos de dados que reúnem arquivos já sinalizados, como acontece nos casos de exploração sexual infantil, e listas de termos proibidos na conversa. Caso a conversa seja sinalizada por esses mecanismos, ela é enviada para moderadores humanos. Eles analisam a atividade para indicar se houve violação de políticas e se o usuário realmente pode cometer um ato de violência. Os moderadores podem classificar a atividade como um caso de baixo risco ou desativar a conta e entrar em contato com pessoas e organizações mais capazes de resolver a situação, como aconteceu no Espírito Santo. O ChatGPT-4o foi anunciado e lançado pela OpenAI em 13 de maio de 2024 NurPhoto via Getty Images A empresa chegou a ser processada em 2025 sob a acusação de contribuir para suicídio de um jovem de 16 anos nos Estados Unidos, em vez de adotar salvaguardas como direcioná-lo a linhas de apoio para situações de crise. Em comunicado de abril de 2026, a companhia disse trabalhar para o ChatGPT rejeitar pedidos para facilitar casos de violência, ao mesmo tempo em que busca fazer o serviço diferenciar casos problemáticos de perguntas neutras por razões históricas ou educacionais, por exemplo. "Alguns riscos de segurança só ficam evidentes com o tempo: uma única mensagem pode parecer inofensiva, mas o padrão mais amplo em uma conversa longa – ou em várias conversas – pode sugerir algo mais preocupante", disse a OpenAI. Comunicação com autoridades Denúncias a autoridades são comuns em casos identificados em redes sociais, mas não acontecem com frequência quando surgem em assistentes como o ChatGPT. Este foi apenas o terceiro caso do tipo no Brasil, disse o delegado Breno Andrade à TV Gazeta, afiliada da Globo no Espírito Santo. A tendência é que o número aumente à medida que mais pessoas usam esses sistemas como blocos de notas ou como parceiros para relatar o que estão fazendo, disse Álvaro Machado Dias, da Unifesp. Mas a notificação para o FBI, e não para uma autoridade brasileira, é inadequada, disse o especialista. Segundo ele, o canal correto seria a Polícia Federal ou o Ministério da Justiça, ainda que seja possível entender a lógica da OpenAI, com sede nos Estados Unidos e contato com autoridades americanas. "O crime seria no Brasil, a vítima estava no Brasil, o suspeito estava no Brasil, e a prisão dependia do Estado brasileiro. Quem presta serviço aqui não pode tratar o Brasil como mercado consumidor e os Estados Unidos como foro natural de todo conflito", afirmou. Veja mensagens enviadas por pai ao ChatGPT enquanto planejava matar o filho de 8 anos no Espírito Santo Reprodução/PCES Ao mesmo tempo, autoridades brasileiras precisam oferecer um canal direto para receber esse tipo de alerta, o que permite agilizar a investigação, destacou. "A rapidez é decisiva porque a IA comprime a distância entre intenção, plano e execução". Para o professor, não há dúvidas de que comunicar o caso para autoridades foi a decisão correta. "As pessoas falam com o ChatGPT como quem fala com um terapeuta ou um advogado, mas a IA não é nem uma coisa nem outra, e portanto não carrega segredo profissional nenhum". Veja mensagens enviadas por pai ao ChatGPT enquanto planejava matar o filho de 8 anos Como foi a investigação O FBI, equivalente americano à Polícia Federal, encaminhou a denúncia ao Ministério da Justiça e Segurança Pública, que direcionou o material à Polícia Civil do Espírito Santo. As informações foram enviadas, então, à Delegacia Especializada de Repressão aos Crimes Cibernéticos do Espírito Santo, que realizou a prisão em cumprimento a mandados judiciais. O delegado Ícaro Olímpio disse que o homem negou a acusação, mas foi detido com base no histórico de conversas com o ChatGPT fornecido pela OpenAI. "Nós tivemos elementos o suficiente para poder prevenir esse crime grave que estava prestes a acontecer", afirmou. "Temos convicção de que nós evitamos o que seriam atos de extrema violência".