Na quinta‑feira, 10 de setembro de 2024, a empresa de inteligência artificial Anthropic divulgou que bloqueou ações de usuários que poderiam levar à produção de armas biológicas usando seu modelo Claude. O bloqueio ocorreu após a identificação de consultas de alto risco que visavam manipular vírus e toxinas, e foi relatado no mais recente relatório de riscos da companhia.
Identificação de consultas de alto risco biológico
Um dos casos classificados como “alto risco biológico” envolveu pesquisas sobre mutações do vírus Chikungunya, que causa febre e artrite em grande parte do território brasileiro. A Anthropic explicou que, embora a intenção pudesse ser melhorar vacinas e tratamentos, a mesma linha de investigação abre precedentes para potencializar a doença.
Além do Chikungunya, o relatório apontou outras cinco situações que poderiam culminar em armas biológicas, incluindo adaptações de gripe aviária, intensificação de venenos neurotóxicos e modificação de toxinas de origem vegetal. Cada caso foi marcado como perigoso porque os usuários conseguiram contornar os mecanismos de segurança do Claude.
- Pesquisa de mutações do vírus Chikungunya.
- Desenvolvimento de cepas mais virulentas de gripe aviária.
- Potencialização dos efeitos paralisantes de venenos.
- Modificação de toxinas botânicas para uso ofensivo.
- Combinação de agentes biológicos com técnicas de entrega avançada.
Rastreamento de atividades governamentais e militares
A Anthropic também encontrou indícios de espionagem governamental e de uso militar da IA. Entre dezembro de 2025 e agosto de 2026, foram detectados padrões de consulta que sugeriam planejamento de ataques aéreos, evasão de sistemas de vigilância e manipulação de conteúdo em portais de mídia estatal.
Os registros apontam que as consultas partiam de universidades, grupos políticos e empresas de comunicação que mantêm vínculos econômicos com rivais estratégicos dos Estados Unidos, como China e Rússia. Essa descoberta reforça a preocupação de que a IA possa ser empregada como ferramenta de guerra híbrida.
Project Glasswing e medidas de defesa
Ao lançar a geração atual dos LLMs, a Anthropic anunciou o Project Glasswing, uma parceria entre empresas e instituições governamentais dos EUA que recebeu acesso antecipado ao Claude. O objetivo declarado foi desenvolver mecanismos de defesa capazes de detectar e neutralizar usos indevidos, sobretudo em cenários de cibersegurança.
O projeto inclui auditorias contínuas, treinamento de modelos para reconhecer solicitações de risco e protocolos de bloqueio automático quando padrões suspeitos são detectados. Essa abordagem preventiva foi citada como razão principal para o sucesso na interrupção das consultas que poderiam gerar armas biológicas.
Impactos para a indústria e para os reguladores
Ao tornar público o relatório, a Anthropic pretende estimular um debate amplo entre desenvolvedores, governos e sociedade civil. A empresa acredita que a transparência pode acelerar a criação de normas e padrões de segurança que limitem o mau‑uso de IA avançada.
Especialistas como Jacob Coxon, que alertou sobre os riscos da corrida à superinteligência, concordam que a falta de mecanismos efetivos de controle pode levar a consequências catastróficas. A comunidade científica tem enfatizado a necessidade de auditorias independentes e de um marco regulatório internacional que acompanhe o ritmo acelerado de desenvolvimento.
Enquanto isso, as autoridades de saúde pública nos países afetados, especialmente o Brasil, monitoram de perto as pesquisas relacionadas ao Chikungunya. O Ministério da Saúde ainda não confirmou casos de uso indevido, mas reforçou a importância de vigilância contínua sobre tecnologias emergentes.
Em síntese, o bloqueio realizado pela Anthropic demonstra tanto o potencial destrutivo quanto a capacidade de mitigação que a IA oferece. A mensagem central do relatório é clara: a tecnologia pode ser uma espada de dois gumes, e cabe à comunidade global definir regras de engajamento antes que os riscos se tornem irreversíveis.
