A Anthropic, empresa de inteligência artificial sediada em San Francisco, anunciou nesta semana que interrompeu diversas operações de vigilância patrocinadas por Estados que utilizavam seus modelos de IA. Os bloqueios ocorreram entre janeiro e julho deste ano e foram identificados em projetos vinculados à China, Irã e a autoridades da África Ocidental. A medida foi divulgada em um relatório que detalha o uso indevido da tecnologia para perseguir minorias e opositores no exterior.
Vigilância patrocinada por Estados e o papel da Anthropic
Segundo o documento oficial da empresa, as campanhas de espionagem tinham como alvo comunidades da diáspora que historicamente são perseguidas pelos regimes envolvidos. A Anthropic afirma que detectou padrões de uso que indicavam um esforço coordenado para coletar informações sensíveis de ativistas e grupos vulneráveis. Quando os sinais de abuso foram confirmados, a equipe de segurança da empresa interrompeu o acesso aos modelos e bloqueou as contas responsáveis.
O relatório também destaca que a empresa tem um programa interno de monitoramento que analisa o comportamento dos usuários em tempo real. Esse programa permite identificar anomalias, como consultas massivas sobre perfis de indivíduos ou solicitações de geração de conteúdo que facilitem a coleta de dados pessoais. Ao agir rapidamente, a Anthropic evitou que os dados fossem exportados ou utilizados em campanhas de desinformação.
Grupos-alvo das campanhas de espionagem
Entre os alvos identificados estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas no exílio e opositores do regime iraniano que residem fora do país. Esses grupos são frequentemente monitorados por governos que buscam suprimir vozes críticas e impedir a organização de movimentos de resistência. A Anthropic constatou que os agentes de segurança utilizavam a IA para mapear redes sociais, identificar padrões de comunicação e gerar perfis detalhados de indivíduos.
Um caso específico envolveu cidadãos iranianos que desenvolveram um método automatizado para rastrear pessoas por meio de suas contas em redes sociais. O algoritmo analisava postagens públicas, seguidores e interações para criar um banco de dados que facilitava a repressão de dissidentes. Outro exemplo ocorreu no Mali, onde um contratado pelas autoridades de segurança nacional utilizou o modelo Claude para projetar o software que permitiu a coleta de inteligência em larga escala.
Abordagens técnicas e casos específicos
Os agentes de espionagem empregaram diversas técnicas avançadas para extrair valor dos modelos de IA. Entre elas, a destilação de dados, que consiste em usar um modelo para treinar outro, foi apontada como prática recorrente entre desenvolvedores chineses. Essa prática permite que informações sensíveis sejam incorporadas a novos sistemas sem a devida autorização, violando acordos de uso e propriedade intelectual.
Além das atividades de vigilância, a Anthropic identificou tentativas de uso da IA para desenvolver armas biológicas e realizar golpes românticos online. As pesquisas bloqueadas incluíam:
- Estudos sobre o vírus chikungunya, transmitido por mosquitos.
- Investigações de uma cepa altamente patogênica de gripe aviária.
- Análises de uma família de vírus que engloba varíola e mpox.
- Desenvolvimento de venenos e outras toxinas.
Embora a intenção dos pesquisadores não tenha sido claramente identificada, a Anthropic considerou que o risco potencial justificava a interrupção imediata. Em todos os casos, os usuários foram notificados sobre a violação dos termos de serviço e tiveram seu acesso revogado.
Medidas de bloqueio e implicações futuras
Para impedir novos abusos, a Anthropic reforçou suas políticas de uso e implementou filtros adicionais de monitoramento. A empresa também está colaborando com organizações de direitos humanos para garantir que as vítimas de vigilância recebam suporte adequado. Além disso, a Anthropic está investindo em pesquisas de segurança de IA para detectar comportamentos suspeitos de forma ainda mais precoce.
Especialistas apontam que o caso evidencia a necessidade de regulamentação internacional sobre o uso de IA em contextos de segurança nacional. A falta de normas claras permite que regimes autoritários explorem vulnerabilidades tecnológicas para fins de repressão. A Anthropic, ao tornar público o relatório, espera estimular o debate sobre responsabilidade e transparência no desenvolvimento de tecnologias emergentes.
O incidente também levanta questões sobre a responsabilidade das plataformas de IA em relação ao conteúdo gerado por usuários mal-intencionados. Enquanto algumas empresas adotam políticas rígidas de bloqueio, outras ainda enfrentam críticas por não agir de forma preventiva. O futuro da IA dependerá, em grande parte, da capacidade da indústria de equilibrar inovação com proteção dos direitos fundamentais.
