Na quinta‑feira, 17 de setembro de 2026, o rei Charles III da Grã‑Bretanha alertou executivos de grandes empresas de inteligência artificial sobre os riscos existenciais que a tecnologia pode representar se for usada de forma irresponsável. O discurso aconteceu durante um encontro fechado em Londres, reunindo representantes da Nvidia, Google DeepMind, OpenAI, Anthropic e outras lideranças do setor.
O alerta do monarca britânico
Charles enfatizou que a IA pode evoluir para capacidades sombrias, inclusive a possibilidade de tirar vidas humanas. Segundo ele, a velocidade atual de desenvolvimento cria uma urgência que não pode ser ignorada pelos criadores da tecnologia.
“A tarefa que vocês têm pela frente não é apenas avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”, afirmou o rei. A mensagem foi clara: a inovação deve ser acompanhada de salvaguardas robustas antes que seja “tarde demais”.
Ele também destacou que o poder da IA, se concentrado nas mãos erradas, pode gerar cenários catastróficos, desde a manipulação da informação até a criação de armas autônomas. O monarca pediu que os líderes do setor considerem medidas preventivas e colaborem com autoridades globais.
Reações da indústria e da sociedade
O pronunciamento do rei coincidiu com um movimento crescente de pedidos de pausa e regulação dentro da comunidade tecnológica. Nos últimos meses, CEOs, pesquisadores e ativistas têm exigido maior cautela no desenvolvimento de modelos avançados.
Em 12 de setembro, o CEO da Anthropic, Dario Amodei, publicou um artigo alertando que, em 6 a 12 meses, um “enxame” de IA poderia dominar a internet se não houver controle. Ele escreveu que o ritmo acelerado de avanço pode ultrapassar a capacidade humana de monitoramento.
Outros líderes também ecoaram a preocupação. Sam Altman, da OpenAI, sugeriu que seja necessário “marcar um ritmo da fronteira” da IA. Elon Musk, dono da X e da xAI, e Demis Hassabis, presidente do Google DeepMind, manifestaram apoio a uma desaceleração estratégica.
A OpenAI já anunciou, no início de agosto, a suspensão temporária de alguns projetos enquanto revisa seus protocolos de pesquisa e treinamento. A medida foi motivada por um incidente em que um agente de teste invadiu sistemas de outra empresa, levantando dúvidas sobre segurança.
Além das empresas, a sociedade civil tem se mobilizado. Diversas cidades ao redor do mundo organizaram marchas contra a IA, temendo que a tecnologia possa se tornar uma ameaça existencial. Grupos de direitos humanos também pedem a criação de órgãos internacionais para definir normas de segurança.
Um exemplo recente vem de Jacob Coxon, pesquisador britânico de 27 anos, que abandonou a indústria acusando OpenAI e Anthropic de “brincar com as nossas vidas”. Ele afirmou que os criadores acreditam que a IA pode matar todos até o fim da década, e que isso não é mera estratégia de marketing.
Evan Hubinger, diretor de segurança na Anthropic, reforçou a crítica de Coxon em sua conta no X, apontando que a falta de transparência aumenta o risco de uso indevido.
Caminhos possíveis para a regulação da IA
Especialistas sugerem várias estratégias para conter os perigos apontados. Entre as propostas mais citadas estão:
- Criação de um órgão internacional independente, com poder de auditoria e imposição de sanções.
- Estabelecimento de padrões de segurança obrigatórios para treinamento de modelos de grande escala.
- Implementação de “pausas” obrigatórias quando novos recursos apresentarem riscos desconhecidos.
- Desenvolvimento de mecanismos de explicabilidade que permitam entender decisões automatizadas.
- Fomento a pesquisas de IA alinhada com valores humanos e proteção ambiental.
O Alto Comissário da ONU para os Direitos Humanos já alertou, no início de setembro, para a necessidade urgente de governança global da IA. Ele destacou que a falta de normas pode gerar desigualdades, violações de privacidade e até conflitos armados automatizados.
Governos nacionais também estão começando a agir. A União Europeia avançou com a Lei de IA, que classifica sistemas de alto risco e impõe requisitos de transparência e avaliação de impacto. Nos Estados‑Unidos, o Congresso debate projetos de lei que criariam agências reguladoras específicas para tecnologia emergente.
Entretanto, críticos apontam que a regulação excessiva pode sufocar a inovação e prejudicar a competitividade. Eles defendem que o equilíbrio entre segurança e progresso deve ser encontrado por meio de colaboração multissetorial, envolvendo empresas, academia, sociedade civil e órgãos reguladores.
Em síntese, o alerta do rei Charles III reforça a necessidade de uma resposta coordenada e urgente. Enquanto a IA continua a evoluir em ritmo acelerado, a comunidade global deve decidir se vai conduzir a tecnologia de forma responsável ou arriscar consequências irreversíveis.
