Uma mulher de 30 anos foi detida na Flórida, nos Estados Unidos, após revelar ao chatbot Claude, da Anthropic, planos de adquirir arma e atacar o gabinete do xerife do condado de Lee. A prisão ocorreu na manhã de segunda‑feira, depois que a empresa de IA encaminhou o conteúdo à polícia local.
Como a conversa chegou à polícia
A Anthropic, responsável pelo modelo Claude, monitora automaticamente as interações em busca de linguagem que indique risco de violência. Quando o algoritmo detecta termos críticos, o caso é enviado a uma equipe de revisão humana.
Foi essa equipe que, ao analisar a mensagem da usuária, decidiu notificar as autoridades. O alerta foi gerado em menos de 24 horas após a mulher escrever que havia comprado uma arma e pretendia atirar no gabinete do xerife.
Detalhes da detenção
Identificada nos documentos como Carli Heller, a suspeita utilizava o chatbot como um tipo de diário digital, acreditando que a conversa fosse privada. No dia seguinte à mensagem ameaçadora, agentes da polícia do condado de Lee invadiram sua residência e a prenderam sem resistência.
Ela agora responde por crime de segundo grau, previsto na lei da Flórida, que prevê até 15 anos de prisão para quem, por meio eletrônico, ameaça matar alguém ou incita tiroteio em massa.
Política de privacidade da Anthropic
A empresa não comentou o caso especificamente, mas sua política de privacidade, vigente desde 10 de setembro, permite o repasse de informações a autoridades quando houver risco iminente de dano grave a pessoas ou propriedades.
Essa cláusula foi ativada pela primeira vez em agosto, quando outra conversa com Claude foi encaminhada ao FBI, resultando na prisão de um homem de 22 anos no Texas por planejar ataque a uma escola primária.
Outros incidentes envolvendo chatbots
Até o momento, três casos notáveis foram registrados nos EUA:
- San Antonio, Texas: homem de 22 anos preso após alertar o FBI de que pretendia comprar arma e atacar crianças em escola primária.
- San Francisco, Califórnia: usuário informou ter adquirido fuzil AR‑15 e ter o CEO da Anthropic, Dario Amodei, na mira; não foi preso, alegou que era brincadeira.
- Flórida: Carli Heller presa por ameaçar atirar no gabinete do xerife.
Esses episódios mostram que as plataformas de IA estão cada vez mais integradas a protocolos de segurança pública, reforçando a necessidade de cautela ao interagir com sistemas automatizados.
Recomendações para usuários de IA
Especialistas em segurança digital alertam que tudo o que é digitado em um chatbot pode ser monitorado e, em situações de risco, repassado às autoridades. Portanto, recomenda‑se tratar esses sistemas como se fossem espaços públicos.
“Nunca diga a um chatbot algo que você não diria em praça pública, nem que fosse com um megafone”, enfatiza o jornalista Alvaro Leme, doutorando em Ciências da Comunicação pela ECA‑USP.
Além da questão legal, há implicações éticas: a confiança cega em IA pode gerar falsas sensações de anonimato, levando usuários a expor pensamentos perigosos que, de outra forma, permaneceriam ocultos.
Para quem deseja usar chatbots como ferramentas de apoio, a prática recomendada inclui:
- Evitar descrições detalhadas de planos violentos.
- Não compartilhar informações pessoais sensíveis.
- Estar ciente das políticas de privacidade da plataforma.
- Utilizar a IA para fins educativos ou de produtividade, mantendo um tom neutro.
O caso de Carli Heller serve como alerta nacional e internacional sobre os limites da privacidade digital. Enquanto as empresas de IA aprimoram seus sistemas de detecção, os usuários precisam adaptar seu comportamento para evitar consequências legais graves.
Em resumo, a combinação de tecnologia avançada e legislação rigorosa cria um cenário onde a linha entre conversa privada e prova judicial está se tornando cada vez mais tênue.
