Na manhã de 18 de setembro de 2024, pesquisadores da startup Hacktron AI anunciaram que conseguiram acessar contas do ChatGPT de funcionários da OpenAI usando a inteligência artificial Claude, desenvolvida pela Anthropic. O ataque foi realizado durante um exercício de segurança promovido pela própria OpenAI, que buscava identificar vulnerabilidades com a colaboração de especialistas externos. A descoberta trouxe à tona um debate intenso sobre os riscos que as ferramentas de IA podem representar para a cibersegurança global.
Como a vulnerabilidade foi descoberta
Os investigadores da Hacktron começaram analisando o fórum público de suporte da OpenAI, que roda na plataforma Discourse. Durante a inspeção, eles perceberam que determinadas requisições HTTP não eram devidamente validadas, permitindo a injeção de códigos maliciosos. Essa falha de validação acabou concedendo acesso administrativo ao ambiente do fórum, facilitando a escalada de privilégios.
Para explorar a brecha, a equipe recorreu inicialmente ao modelo Claude Opus 4.8, da Anthropic. Embora o modelo fosse capaz de gerar scripts que identificavam a vulnerabilidade, ele não conseguiu executar o ataque de forma estável. Os pesquisadores relataram que o Claude Opus 4.8 apresentava inconsistências ao lidar com loops de autenticação complexos.
O papel decisivo do Claude Opus 5
Após a tentativa frustrada com o Opus 4.8, a Hacktron migrou para o Claude Opus 5, a versão mais recente da série. Diferente de seu predecessor, o Opus 5 demonstrou maior capacidade de entendimento de contextos de segurança e gerou um código exploit funcional em apenas três horas de trabalho.
O modelo foi capaz de automatizar a sequência completa de exploração: desde a coleta de tokens de sessão até a criação de sessões autenticadas no painel de administração do fórum. Com isso, os hackers obtiveram acesso a áreas restritas, incluindo as credenciais de contas de suporte da OpenAI.
É importante notar que a Hacktron não utilizou o Claude Mythos, outro modelo avançado da Anthropic, que permanece restrito a organizações de defesa cibernética altamente qualificadas. A Anthropic descreve o Mythos como o modelo com as habilidades de cibersegurança mais robustas que já desenvolveu, mas seu acesso limitado impediu seu uso no ataque.
Reação da OpenAI e medidas corretivas
Assim que a vulnerabilidade foi reportada, a OpenAI mobilizou sua equipe de segurança e conseguiu corrigir o problema em aproximadamente 14 horas. A empresa agradeceu publicamente aos pesquisadores da Hacktron, destacando a importância da colaboração externa para fortalecer seus sistemas.
Drew Pusateri, porta‑voz da OpenAI, declarou que a empresa já havia implementado monitoramento adicional nos pontos de entrada do Discourse e reforçado a validação de entrada em todas as APIs públicas. Além da correção técnica, a OpenAI concedeu à Hacktron uma recompensa de US$ 6.500, equivalente a cerca de R$ 34.000, como reconhecimento pelo trabalho de descoberta.
O incidente reforça a tendência apontada por especialistas em segurança: as ferramentas de IA estão tornando ataques cibernéticos mais rápidos, baratos e acessíveis, reduzindo a necessidade de equipes altamente especializadas e longos períodos de desenvolvimento.
- IA como facilitadora de exploração de vulnerabilidades;
- Importância de programas de bug bounty para identificar falhas críticas;
- Necessidade de revisão constante de validações de entrada em plataformas públicas;
- Risco crescente de ataques automatizados usando modelos avançados.
Com o sucesso da invasão, a Hacktron anunciou que continuará realizando testes semelhantes em outras empresas do setor tecnológico, buscando mapear possíveis pontos fracos antes que sejam explorados por agentes maliciosos.
Especialistas recomendam que organizações adotem práticas de segurança baseadas em “defesa em profundidade”, combinando auditorias manuais, ferramentas automatizadas e, agora, monitoramento de comportamentos gerados por IA. A integração de modelos de linguagem avançados em processos de pentest pode acelerar a identificação de vulnerabilidades, mas também eleva o nível da ameaça quando caem nas mãos erradas.
Em resumo, o episódio demonstra que a fronteira entre inovação e risco está cada vez mais tênue. Enquanto a IA abre portas para novas formas de criatividade e eficiência, ela também oferece aos atacantes ferramentas poderosas para comprometer sistemas críticos. A comunidade de segurança deve, portanto, adaptar suas estratégias, incorporando análises baseadas em IA e reforçando a cultura de divulgação responsável.
