Jacob Coxon, ex‑pesquisador de inteligência artificial, anunciou na terça‑feira (8) sua saída da Anthropic, empresa americana de IA, acusando tanto a Anthropic quanto a OpenAI de “brincar com as nossas vidas”. O britânico de 27 anos, que trabalhou nos últimos três anos nas fases de pré‑treinamento de grandes modelos, afirmou que o risco de morte em massa causado por IA é real e iminente.
Motivações da saída e acusações públicas
Coxon deixou a OpenAI em 2022 porque considerava a Anthropic mais cautelosa, mas acabou abandonando também a rival após perceber que ambas mantêm estratégias semelhantes de desenvolvimento acelerado. Ele descreveu a situação como um “jogo de alto risco” em que as empresas priorizam lançamentos de produtos sobre a segurança dos usuários.
Em declaração publicada nas redes sociais, o pesquisador afirmou que “as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década”. Essa frase, segundo ele, não é mera estratégia de marketing, mas um alerta baseado em cálculos internos de risco.
Além da crítica ao ritmo de pesquisa, Coxon apontou que a falta de supervisão externa permite que decisões críticas sejam tomadas por poucos engenheiros, sem que haja transparência para o público ou para órgãos reguladores.
Riscos apontados pelos especialistas
Evan Hubinger, diretor de segurança da Anthropic, corroborou a avaliação de Coxon ao dizer no X que a empresa realmente acredita que a IA pode matar seres humanos. Em um cálculo pessoal, Hubinger estimou um risco de “mais de 10 %” de ocorrência de um evento catastrófico nos próximos dez anos.
Outros líderes do setor também reconhecem a proximidade do chamado “auto‑aperfeiçoamento recursivo”, fase em que sistemas de IA seriam capazes de projetar e treinar novas gerações de modelos com mínima intervenção humana. Esse cenário eleva drasticamente a probabilidade de falhas não previstas.
- Desenvolvimento de IA sem limites claros de controle.
- Falta de mecanismos de interrupção automática em caso de comportamento anômalo.
- Concentração de poder em poucas empresas que detêm recursos computacionais massivos.
- Ausência de legislação internacional que imponha padrões de segurança.
Para Coxon, nenhuma empresa pode criar de forma responsável uma IA que supere a inteligência humana sem uma intervenção governamental firme ou uma desaceleração coordenada entre os principais atores do mercado.
Reações da indústria e chamadas à regulação
A Anthropic está se preparando para abrir capital na Bolsa, um movimento que pode trazer ainda mais recursos para pesquisas avançadas, mas também aumenta a pressão por resultados rápidos. Quando questionada pela AFP, a empresa não respondeu, assim como a OpenAI, que mantém silêncio oficial sobre as acusações.
Em fevereiro, a Anthropic retirou da sua carta de segurança o compromisso de suspender o desenvolvimento caso os riscos se mostrassem incontroláveis, sinalizando uma mudança de postura que alarmou investidores e reguladores.
No fim de julho, mais de mil profissionais do setor, incluindo o CEO da Anthropic, Dario Amodei, enviaram uma carta ao Congresso dos EUA pedindo a criação de um “mecanismo de freio” para a IA avançada. Essa petição destacou a necessidade de normas claras, auditorias independentes e limites de investimento em projetos de alto risco.
Já o diretor científico da OpenAI, Jakub Pachocki, escreveu que “o momento atual exige extrema cautela” e que a cooperação internacional é essencial para evitar um cenário de corrida armamentista tecnológica.
Especialistas em direito tecnológico argumentam que a regulação deve ser multilaternal, envolvendo não apenas os Estados‑Unidos, mas também a União Europeia, China e outras potências que investem pesado em IA. Eles sugerem a criação de um órgão global que monitore o desenvolvimento de modelos de linguagem de grande escala.
Enquanto isso, a comunidade acadêmica tem organizado workshops e conferências para discutir protocolos de segurança, compartilhamento de vulnerabilidades e a necessidade de “códigos de conduta” que impeçam a implementação de algoritmos perigosos sem avaliações de risco rigorosas.
O debate público sobre IA também tem se intensificado, com jornalistas, ativistas e cidadãos exigindo maior transparência sobre como os dados são coletados, treinados e utilizados nos sistemas que já influenciam decisões de crédito, saúde e justiça.
Em síntese, a saída de Jacob Coxon coloca em evidência um dilema ético que a indústria ainda não resolveu: avançar tecnologicamente ao mesmo tempo em que protege a vida humana de consequências imprevisíveis. O futuro da IA dependerá, em grande parte, da capacidade dos governos e das próprias empresas de estabelecer limites claros antes que a tecnologia ultrapasse o controle humano.
