Especialistas em segurança dos Estados Unidos e da China apresentaram, nesta semana, um conjunto de propostas para regular o uso de inteligência artificial em contextos nucleares e estratégicos. As recomendações foram divulgadas antes das negociações formais sobre IA previstas para o final de setembro, quando líderes de Washington e Pequim devem se encontrar. O objetivo é criar mecanismos de prevenção que funcionem como os acordos que regem o setor nuclear.
Contexto da disputa tecnológica entre EUA e China
Nos últimos anos, Vale do Silício e Shenzhen se tornaram os principais polos de competição tecnológica entre as duas superpotências. Enquanto os EUA lideram em pesquisa avançada de IA, a China investe massivamente em infraestrutura e aplicações militares. Essa rivalidade ultrapassa a corrida por chips e modelos de linguagem, alcançando áreas sensíveis como defesa e energia.
O diálogo bilateral, iniciado em 2019 por instituições como a Brookings Institution e o Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua, tem servido como fórum para trocar percepções sobre riscos emergentes. Participantes como Melanie Sisson, da Brookings, e Tianjiao Jiang, da Universidade de Fudan, trazem experiência acadêmica e de política pública para a mesa.
Segundo os organizadores, o debate tem evoluído de questões técnicas para discussões estratégicas, incluindo a possibilidade de incidentes envolvendo IA que possam desencadear crises nucleares. A crescente autonomia dos sistemas de comando e controle eleva a urgência de estabelecer regras claras.
Riscos de IA em sistemas nucleares e críticos
Um cenário temido pelos analistas é o de um algoritmo de IA que, ao detectar uma suposta ameaça, acione automaticamente protocolos de lançamento nuclear. Em poucos minutos, os governos poderiam ter que decidir se o ataque foi provocado por um adversário ou se trata‑se de um erro de cálculo da máquina.
Além do risco de lançamento inadvertido, há a possibilidade de ataques digitais de grande escala contra infraestruturas estratégicas, como redes de energia, finanças e saúde. Um software malicioso, impulsionado por IA, poderia penetrar sistemas de comando, controle e comunicação (C3) e causar danos irreparáveis.
Os especialistas destacam que a falta de transparência nas decisões algorítmicas dificulta a atribuição de responsabilidade. Se um ataque for executado por uma IA comprometida, o país alvo pode não conseguir distinguir entre um acidente e uma ação deliberada.
Propostas de controle humano e limites operacionais
Para mitigar esses riscos, os autores do relatório sugerem a adoção de quatro medidas principais, apresentadas a seguir:
- Limites rígidos ao uso de IA em decisões nucleares: proibir que algoritmos autônomos determinem o lançamento ou a retaliação nuclear sem aprovação humana direta.
- Controle humano significativo: definir claramente o nível de intervenção humana necessário antes de qualquer ação digital de alto impacto.
- Linhas diretas de comunicação: criar canais exclusivos entre as forças militares dos EUA e da China para relatar incidentes envolvendo IA em tempo real.
- Proteções para infraestruturas críticas: estabelecer normas de segurança cibernética específicas para setores como energia, finanças e saúde, garantindo que a IA não seja usada para comprometer esses alvos.
Jiang propôs ainda a padronização de uma definição comum de “controle humano significativo”, evitando que cada país interprete o termo de forma distinta para justificar diferentes graus de autonomia.
Sisson reforçou que a autoridade final para iniciar qualquer ataque digital contra sistemas nucleares deve permanecer exclusivamente nas mãos de seres humanos, prevenindo decisões precipitadas ou baseadas em dados incompletos.
Próximos passos e implicações globais
As recomendações chegam em um momento em que a comunidade internacional discute a necessidade de um tratado global sobre IA. A proposta de um “acordo nuclear para a era da inteligência artificial” pode servir de modelo para futuras negociações multilatinais.
O ministro da Segurança do Estado da China, Chen Yixin, já alertou que a IA está transformando fundamentalmente a forma da luta militar, tornando‑se central em estratégias de ataque e defesa. Essa declaração reforça a importância de protocolos de comunicação claros entre rivais nucleares.
Se adotadas, as medidas poderiam reduzir significativamente o tempo de reação necessário para evitar escaladas acidentais, proporcionando uma margem de segurança maior para decisões críticas.
Por outro lado, a implementação prática desses acordos enfrenta desafios políticos e técnicos. A confiança mútua entre Washington e Pequim ainda é limitada, e a verificação de cumprimento exigirá mecanismos de inspeção robustos.
Em fevereiro, Lora Saalman, do Instituto Internacional de Pesquisa para a Paz de Estocolmo, destacou que o consenso sobre controle humano em IA representa um ponto de convergência raro entre as duas potências, apesar das divergências em outras áreas.
À medida que a IA se integra cada vez mais aos sistemas de armas, a comunidade de segurança global precisará monitorar continuamente os desenvolvimentos e adaptar as normas para evitar que a tecnologia se torne uma fonte de instabilidade.
