Jacob Coxon, de 27 anos, deixou a OpenAI e a Anthropic para abandonar definitivamente a indústria de inteligência artificial. Ele revelou que, nos cenários mais agressivos, a corrida por sistemas capazes de autoaperfeiçoamento pode sair do controle já no fim do próximo ano. A denúncia foi feita em entrevista ao The Wall Street Journal, em setembro de 2024, nos Estados Unidos.
Motivos da saída e alerta sobre o autoaperfeiçoamento
Coxon trabalhou três anos no pré‑treinamento de grandes modelos de linguagem, primeiro na OpenAI e, mais recentemente, na Anthropic, empresa que ele considerava mais cautelosa. O pré‑treinamento consiste em alimentar a IA com enormes volumes de dados para que ela aprenda padrões e respostas. Durante esse período, o pesquisador observou sinais claros de que a tecnologia estava se aproximando de um ponto crítico.
Ele afirmou que, em “cenários mais agressivos”, a IA poderia desenvolver a capacidade de melhorar a si mesma sem supervisão humana, um fenômeno conhecido como autoaperfeiçoamento recursivo. Quando isso ocorre, o sistema pode gerar versões cada vez mais avançadas, reduzindo a intervenção humana a quase zero. Segundo Coxon, esse processo pode tornar o controle da IA impraticável já no fim de 2025.
O risco, segundo o ex‑funcionário, não se limita a falhas técnicas, mas inclui a possibilidade de a IA tomar decisões que coloquem em perigo a vida humana. Ele citou a preocupação de que um modelo superinteligente possa agir de forma contrária aos interesses humanos, gerando consequências catastróficas.
Reações das empresas e do setor
Evan Hubinger, executivo de segurança da Anthropic, corroborou as afirmações de Coxon em post no X, dizendo que “realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Hubinger estimou que a probabilidade de um evento desse tipo na próxima década seja superior a 10 %.
Apesar do tom alarmista, Hubinger também destacou que, atualmente, o risco de um modelo atual causar danos massivos é baixo. A Anthropic, segundo ele, está “fazendo o possível” para mitigar ameaças, embora ainda não possua um plano definitivo que garanta a obediência de um sistema superinteligente aos seus criadores.
A OpenAI, por sua vez, interrompeu o treinamento de seus modelos mais recentes por duas semanas em agosto de 2024, retomando as atividades com controles mais rigorosos. Jakub Pachocki, cientista‑chefe da empresa, defendeu a adoção de “extrema cautela” em todas as fases de desenvolvimento.
Além das empresas, líderes do setor têm reconhecido que o autoaperfeiçoamento recursivo está se aproximando. Em julho, mais de mil profissionais de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, pediram ao governo dos EUA apoio a uma desaceleração coordenada no desenvolvimento de IA avançada.
Contexto regulatório e iniciativas de contenção
Nos Estados Unidos, ainda não existe uma legislação federal que regule o desenvolvimento de IA. Em setembro de 2024, o senador Bernie Sanders e o deputado Greg Casar apresentaram um projeto de lei que propõe suspender o avanço de IA até a criação de um órgão regulador federal.
A Anthropic, que se prepara para abrir capital na bolsa, removeu de sua carta de princípios de segurança o compromisso de interromper o desenvolvimento caso não conseguisse controlar os riscos. A justificativa foi que suspender unilateralmente as atividades poderia abrir espaço para concorrentes menos cautelosos, aumentando a vulnerabilidade do setor como um todo.
Para ilustrar os principais riscos apontados por Coxon e pelos especialistas, segue uma lista resumida:
- Autoaperfeiçoamento recursivo: sistemas que projetam e treinam novas versões sem intervenção humana.
- Falta de alinhamento de valores: a IA pode perseguir objetivos diferentes dos humanos.
- Concentração de poder: poucas empresas controlam tecnologias capazes de influenciar sociedades inteiras.
- Escalada de armamentos automatizados: uso militar de IA pode acelerar conflitos.
- Desinformação massiva: geração de conteúdo falsificado em escala sem precedentes.
Os especialistas concordam que a única maneira de garantir um desenvolvimento responsável seria por meio de intervenção governamental ou de um acordo internacional de desaceleração. Coxon enfatiza que, sem uma regulação forte, nenhuma empresa – nem mesmo a Anthropic, que se considera mais cautelosa – conseguirá conter os perigos inerentes a uma IA que supere a inteligência humana.
Enquanto o debate legislativo avança lentamente, a comunidade científica continua a pressionar por transparência, auditorias independentes e protocolos de segurança robustos. A esperança é que, antes que a tecnologia alcance o ponto de não‑retorno, haja um consenso global capaz de impor limites claros.
