Durante cerca de dois meses, um agricultor de 36 anos, identificado nesta reportagem pelo nome fictício João, manteve conversas com o ChatGPT que, segundo a Polícia Civil do Espírito Santo, indicavam um possível plano para matar o próprio filho, de 8 anos, realizar ataques e depois tirar a própria vida.
Nas interações com a ferramenta de inteligência artificial, ele pesquisou os efeitos de determinadas substâncias tóxicas no organismo, afirmou ter oferecido dinheiro para que outra pessoa matasse a criança e relatou sentir prazer ao ver pessoas sofrendo.
“Ofereci 50 mil para ele me matar e matar meu filho, mas ele não quis por se tratar de uma criança”, diz uma das mensagens enviadas ao ChatGPT às quais a BBC News Brasil teve acesso.
Em outra interação, o agricultor escreveu: “Queria saber de onde vem essa vontade de matar as pessoas. Eu gosto da sensação de ver outra pessoa sofrer”.
As conversas acionaram um alerta no sistema de segurança da inteligência artificial. A OpenAI, criadora do ChatGPT, comunicou a interação ao FBI, que posteriormente entrou em contato com autoridades brasileiras.
O caso chegou à Polícia Civil do Espírito Santo em 16 de junho por intermédio do Laboratório de Operações Cibernéticas, o Ciberlab, estrutura tecnológica do Ministério da Justiça e Segurança Pública voltada ao combate de crimes cibernéticos.
Três dias depois, e um dia antes da data em que, segundo a polícia, o suposto plano seria executado, João foi preso ao sair de casa na zona rural de São Gabriel da Palha. O município tem pouco mais de 30 mil habitantes e fica a cerca de 200 quilômetros de Vitória.
“Priorizamos esse caso em função da gravidade e por supostamente o pai planejar a execução do filho até o dia 20”, afirmou à BBC News Brasil o delegado Brenno Andrade, titular da Delegacia de Crimes Cibernéticos e responsável pela investigação.
João foi preso preventivamente em 19 de junho. Na quinta-feira (13/8), porém, deixou a prisão após a Justiça conceder um habeas corpus apresentado pela defesa, sob o entendimento de que houve demora excessiva na conclusão da investigação policial. Ao todo, ele permaneceu preso durante 54 dias.
A prisão preventiva não possui prazo fixo estabelecido em lei. Quando o investigado está detido, contudo, a investigação precisa ser concluída dentro de um prazo considerado razoável.
No caso do agricultor, a Justiça entendeu que, depois de mais de 50 dias de prisão, o inquérito ainda não havia sido concluído pela polícia e nenhuma denúncia havia sido apresentada pelo Ministério Público. A manutenção da prisão, nesse cenário, poderia configurar constrangimento ilegal.
Ao determinar a soltura, a Justiça também estabeleceu medidas cautelares. Entre elas estão o uso de tornozeleira eletrônica e a proibição de João se aproximar ou manter contato com o filho e com a mãe da criança.
Segundo Brenno Andrade, o investigado não mantinha relação de afeto nem contato com o menino. Ele apenas pagava pensão, situação que, segundo o delegado, teria sido um dos motivos para o suposto planejamento do crime.
“Ele não queria mais pagar a pensão […] Em uma das conversas, ele fala em tirar a própria vida. Mas ele não queria, digamos assim, essa ‘encheção de saco’ da mãe dele, avó da criança, ser cobrada pela pensão. Então, ele pensou em também matar o próprio filho.”
A Polícia Civil do Espírito Santo informou que ainda aguarda os resultados dos laudos periciais de objetos apreendidos na residência do agricultor para concluir o inquérito.
Durante as buscas, foram encontrados quatro frascos contendo uma substância ainda desconhecida, além de uma corda amarrada que, segundo a polícia, poderia indicar intenção suicida.
“Tudo aquilo que a plataforma trouxe pra gente foi corroborado com a chegada da polícia ao local. Ele confirmou algumas coisas que pesquisou em relação ao filho, mas negou essa intenção de matá-lo”, afirmou o delegado.
O celular do suspeito também foi apreendido e será submetido a perícia. Um dos objetivos é verificar se João realmente entrou em contato com um pistoleiro para matar o filho, conforme relatou nas conversas com o ChatGPT.
“Vamos supor que no telefone dele, ele já tinha iniciado essa conversa, já tivesse até pagado o pistoleiro. A polícia entende que, nesse caso, havendo esse tipo de situação, ele já passa da fase de cogitação e já está ali, executando o crime que não foi consumado por motivos alheios à sua vontade, que foi a polícia chegar previamente e efetuar a prisão”, declarou Andrade.
A defesa, por outro lado, sustenta que o agricultor não cometeu crime.
“Se conversar com IA e falar bobagens for crime, todo mundo vai preso”, afirmou à BBC o advogado Pedro Pessi, integrante da defesa.
O episódio coloca em discussão uma questão que ainda não possui resposta simples no direito brasileiro: em que medida uma conversa mantida com uma ferramenta de inteligência artificial pode ser utilizada como prova criminal?
Especialistas ouvidos pela BBC News Brasil afirmam que, embora as mensagens tenham sido suficientes para justificar a prisão preventiva diante do risco iminente à vida de uma criança, elas não bastariam, isoladamente, para fundamentar uma acusação criminal contra o pai.
A discussão envolve principalmente dois aspectos: a maneira como as mensagens chegaram às autoridades brasileiras e o estágio em que o agricultor teria chegado no suposto plano para matar o filho.
Além de falar sobre a morte da criança e sobre tirar a própria vida, João também realizou pesquisas no ChatGPT relacionadas a ataques contra escolas, igrejas e policiais, segundo o delegado.
As consultas teriam sido feitas de maneira genérica, sem citar nomes específicos de autoridades ou locais.
“Se eu for num ponto de drogas e matar uns 4 bandidos, eu ficaria famoso na cidade. Depois era só matar um ou dois policiais e poderia morrer tranquilamente”, escreveu em uma das conversas.
Em outra, afirmou: “Estou pensando em comprar uma arma de fogo e atirar contra a polícia para eles reagirem e me matar. Isso vai ser legal e bom pra mim”.
Para Brenno Andrade, as interações indicam que o agricultor cogitava realizar outros ataques.
“Pela nossa experiência, a pessoa trabalha em escalas, digamos assim, ela vai gerando esse sentimento, essa vontade, e começa a pesquisar sobre. Depois, começa a pesquisar sobre como é um tipo de material para praticar esse tipo de situação. E, em certo ponto, ela vai praticar o ato”, explicou.
Segundo o delegado, em algumas interações o agricultor também tentou contornar restrições do próprio ChatGPT, reformulando perguntas que poderiam violar os termos de uso da plataforma.
Em uma delas, escreveu: “Efeitos da ricina no corpo humano”. Na sequência, perguntou: “Como retirar a ricina da semente da mamona? Curiosidade científica”.
Apesar de ter recebido as perguntas feitas pelo suspeito, a polícia não sabe o conteúdo das respostas fornecidas pelo ChatGPT. A OpenAI não encaminhou às autoridades brasileiras a íntegra das conversas.
“A gente não recebeu as respostas que eram dadas. Recebemos o usuário que estava utilizando aquele chat específico, aquela conta”, disse Andrade.
Para a advogada criminalista e professora da FGV-Rio Maíra Fernandes, a ausência das respostas prejudica a compreensão integral do contexto e não garante a preservação do conteúdo original da conversa.
Ela compara a situação à preservação de uma cena de assassinato, em que o local é isolado para impedir alterações. Na avaliação da especialista, uma conversa com inteligência artificial também deveria chegar às autoridades com garantias de autenticidade e integridade.
“Então não pode ser um trechinho, não pode ser uma edição. Não pode ser o que eles [a Open IA] acharam que era perigoso. Tem que ser a íntegra daquela conversa. Porque às vezes, no meio da conversa, pode vir algo que seja equivalente a um desabafo, a um pensamento aleatório, uma fantasia que se explica ao longo da conversa, mas que, se pega um trecho isolado, parece uma conduta criminosa”, afirmou Fernandes.
Para a advogada, o fato de o episódio envolver uma criança e uma situação ainda nova para o direito, na qual uma inteligência artificial classificou uma conversa como potencialmente perigosa e comunicou o caso à polícia, faz com que a atuação da ferramenta possa ser vista de forma positiva. Ela ressalva, entretanto, que esse tipo de procedimento deve ser adotado com muita cautela para evitar banalização.
“E aí qualquer pessoa pode ser investigada porque a inteligência artificial assim entendeu. A gente precisa saber que inúmeras questões estão envolvidas no uso dessa inteligência artificial, de todas as naturezas, inclusive políticas ideológicas”, pontuou.
Procurada pela BBC News Brasil, a OpenAI não respondeu por que somente parte das conversas foi enviada às autoridades brasileiras.
Em nota, um porta-voz da empresa afirmou: “Quando detectamos conversas que indicam um risco iminente e crível de danos a terceiros, podemos notificar as autoridades policiais. Relatos recentes no Brasil ilustram a importância dessas medidas de segurança.”
Segundo a OpenAI, o ChatGPT utiliza uma combinação de mecanismos automáticos de detecção, revisão especializada e supervisão humana para identificar riscos e violações de suas políticas. A empresa afirma que pode agir diante de riscos críveis e iminentes de danos contra terceiros, mas que o encaminhamento às autoridades ocorre apenas em situações excepcionais e consideradas de alto risco.
Maíra Fernandes também chama atenção para a atuação da própria plataforma durante as conversas. Segundo ela, conhecer as respostas é importante não apenas para avaliar a conduta do usuário, mas também para verificar se a inteligência artificial forneceu alguma orientação capaz de incentivar o suposto planejamento criminoso.
“Será que a resposta foi positiva no sentido: ‘Como você prefere matar? Você prefere matar com veneno? Você prefere matar com arma?’ Isso tem uma responsabilidade gigantesca da ferramenta de inteligência artificial, o que não exclui, óbvio, a responsabilidade daquele que pergunta. Mas isso precisa estar nos autos”, declarou.
Uma discussão semelhante sobre o papel da inteligência artificial no planejamento de crimes surgiu recentemente nos Estados Unidos.
Em abril deste ano, o procurador-geral da Flórida abriu uma investigação criminal contra a OpenAI para apurar se o ChatGPT contribuiu para o planejamento de um ataque ocorrido em 2025 na Florida State University, que deixou duas pessoas mortas e outras seis feridas.
Segundo as autoridades, o responsável pelo ataque teria usado a ferramenta para buscar informações sobre armas, munições e aspectos do planejamento da ação.
O procurador-geral afirmou que, caso uma pessoa tivesse fornecido aquelas orientações, poderia ser responsabilizada criminalmente.
A OpenAI contesta essa interpretação e sustenta que o ChatGPT apenas disponibilizou informações públicas, sem incentivar nenhuma atividade ilegal.
Para André Glitz, mestre em Direito pela Columbia University e pesquisador da área de investigação criminal, o caso ocorrido no Brasil envolve duas análises distintas: a validade das conversas como prova e o peso que elas poderiam assumir em uma eventual acusação.
“É preciso saber em que contexto essas conversas aconteceram e o que o ChatGPT respondeu. Uma conversa precisa ter começo, meio e fim. Se você extrai apenas um pedaço dessas conversas, o sentido do que foi dito pode mudar completamente. A prova pode até ser válida, mas é importante ver o peso”, afirmou.
Glitz observa que esse cuidado é ainda mais necessário em diálogos com ferramentas de inteligência artificial, que podem “alucinar”, apresentar informações incorretas ou interpretar inadequadamente o contexto de uma pergunta.
Como a OpenAI é uma empresa americana, segundo o pesquisador, o acesso à íntegra das conversas dependerá de uma decisão judicial e de mecanismos de cooperação jurídica internacional.
Em nota, o Ministério da Justiça e Segurança Pública afirmou que “em situações excepcionais que envolvam risco concreto e iminente à vida ou à integridade física de terceiros, empresas de tecnologia podem compartilhar informações com as autoridades brasileiras. Quando essas comunicações chegam ao Ciberlab, é realizada uma análise preliminar e, identificada a necessidade de atuação imediata, as informações são encaminhadas, com a maior brevidade possível, às autoridades policiais com atribuição sobre o caso para adoção das medidas cabíveis”.
Outro ponto central da investigação é saber se uma pessoa pode ser responsabilizada apenas por cogitar a prática de um crime.
O caso no Espírito Santo lembra a premissa do filme Minority Report, lançado em 2002, no qual pessoas são presas antes de cometer crimes porque existe uma previsão de que irão praticá-los. A comparação foi mencionada tanto pelo delegado quanto por André Glitz durante as entrevistas.
Existe, porém, uma diferença considerada fundamental: a inteligência artificial não previu que João cometeria um crime. O sistema identificou a conversa como potencialmente perigosa, e a plataforma encaminhou o alerta às autoridades.
A defesa sustenta que a situação não ultrapassou a fase de cogitação. À BBC, o advogado Pedro Paulo Pessi declarou que o pai não teria tomado nenhuma providência concreta para executar os crimes mencionados nem ameaçado a criança.
“Ele não teve nenhuma atitude nesse sentido de execução, não preparou nada, não fez ameaças, apenas conversou com a IA e falou várias bobagens. A defesa entende que não houve crime”, afirmou.
Segundo Glitz, essa discussão passa, no direito penal, pelo chamado iter criminis, expressão utilizada para definir o caminho percorrido até a prática de um crime. Ele é dividido em três fases: cogitação, preparação e execução.
Na avaliação inicial do pesquisador, as conversas com o ChatGPT indicariam que o agricultor estaria apenas cogitando o crime.
“A preparação envolve atos materiais, como comprar uma arma ou adquirir veneno. Já a execução começa quando esse plano passa efetivamente a ser colocado em prática”, explicou.
Como regra, afirma Glitz, nem a cogitação nem atos meramente preparatórios são puníveis. Existem exceções quando o próprio ato preparatório constitui um crime independente. Um exemplo é a posse ilegal de arma de fogo: mesmo sem a ocorrência de um homicídio, a pessoa pode responder pelo delito relacionado à arma.
O especialista ressalta, porém, que a fronteira entre preparação e execução nem sempre é clara. Há debates na doutrina e na jurisprudência sobre o momento em que o ato executório começa, especialmente em circunstâncias nas quais aguardar o “último ato” poderia colocar a vítima diante de um risco elevado.
No caso do agricultor, segundo Glitz, essa definição dependerá dos elementos que a investigação conseguir comprovar para além das mensagens enviadas ao ChatGPT.
“Será preciso analisar o caso concreto, o que as conversas anteriores indicavam, se existiam outros elementos, como materiais apreendidos, compra de substâncias ou outros atos que indiquem que ele avançava para uma execução. Isso será objeto de discussão jurídica.”
O episódio também representa uma situação inédita para a própria Polícia Civil.
Brenno Andrade, que trabalha na Delegacia de Crimes Cibernéticos desde 2018, afirma já ter experiência com investigações de crimes em ambientes digitais, entre eles abuso e exploração sexual infantil online, ameaças no ambiente escolar e delitos cometidos por redes sociais.
Até então, porém, ele nunca havia recebido um alerta originado de uma ferramenta de inteligência artificial que pudesse levar à identificação de um possível crime.
“A gente descobriu que era o primeiro caso do Espírito Santo e o terceiro do país. E, nas palavras do próprio Ministério da Justiça, ‘de longe, o caso mais grave’”, afirmou.
Para o delegado, a comunicação realizada pela plataforma pode abrir uma nova frente para investigações policiais, permitindo identificar situações potencialmente perigosas antes da efetiva prática de uma conduta criminosa.
“É mais um caminho para a polícia para tentar saber se pessoas pesquisaram crimes na inteligência artificial. Acredito que, pelo menos no caso que envolve violência ou grave ameaça, risco de integridade à vida, as plataformas vão fazer essa comunicação, o que já facilita muito o trabalho da polícia”, declarou Andrade, ressaltando que esse mecanismo não substitui a investigação policial.
O advogado especialista em direito digital Luiz D’Urso também considera que o caso evidencia uma nova modalidade de interação entre plataformas de inteligência artificial e autoridades.
Segundo ele, sistemas automatizados podem detectar conteúdos considerados potencialmente perigosos, mas uma eventual comunicação às autoridades deveria passar por avaliação humana e ser realizada com cautela.
“Não é possível permitirmos que a IA faça uma denúncia diretamente à autoridade policial para essa tomar providências, porque alguém precisa ver se aquele conteúdo é verdadeiro. Caso contrário, nós podemos ter uma avalanche de denúncias falsas chegando à polícia por alucinações, interpretações erradas”, afirmou.
D’Urso considera que, no episódio do agricultor, existiam elementos suficientes para justificar a preocupação da plataforma. Para ele, no entanto, situações semelhantes também evidenciam a necessidade de uma legislação brasileira que acompanhe as mudanças provocadas pelo avanço da inteligência artificial.
Para Patricia Peck, professora da ESPM e especialista em Direito Digital, o episódio demonstra ainda uma mudança na função dessas ferramentas, que deixaram de atuar exclusivamente como sistemas de geração de conteúdo e passaram a funcionar como ambientes de interação capazes de identificar padrões relacionados a situações de risco.
“Quando uma conversa deixa de representar uma mera intenção abstrata e passa a indicar uma ameaça concreta, com vítima identificável, meios disponíveis e risco iminente, surge um dever ético e, em determinadas circunstâncias, jurídico de atuação”, afirmou.
Segundo Peck, a resposta das plataformas deve ser proporcional ao risco: quanto maior a possibilidade de um dano imediato contra terceiros, maior seria a legitimidade para acionar os mecanismos de segurança.
“A ética aplicada à IA não deve partir da lógica de ‘monitorar tudo’, mas sim da lógica de ‘intervir apenas quando o risco justificar’. O desafio é evitar tanto a omissão quanto o excesso de vigilância”, afirmou.
Fonte: G1