Em junho de 2024, um debate acalorado entre dois matemáticos de instituições norte‑americanas trouxe à tona temores sobre a integridade das descobertas científicas quando assistidas por inteligência artificial. O embate ocorreu nos corredores virtuais da OpenAI, logo após a empresa anunciar que sua IA teria avançado na solução das complexas equações de Navier‑Stokes.
O projeto de DNA e a ambição de uma IA biológica
Na histórica fábrica de relógios do centro de Londres, a Basecamp Research armazena milhares de tubos de vidro contendo cerca de 100 bilhões de sequências genéticas. Segundo o médico Oliver Vince, co‑fundador do laboratório, duas caixas desses tubos poderiam comportar dez vezes mais informação do que todo o conteúdo textual disponível na internet.
A estratégia da empresa é coletar o máximo possível de DNA para treinar um modelo de IA capaz de compreender a linguagem da biologia. Essa abordagem replica o método usado por gigantes da tecnologia nos Estados Unidos e na China, que reuniram enormes corpora de texto para criar os Large Language Models (LLMs) como ChatGPT e Gemini.
Vince acredita que a IA poderá acelerar descobertas em áreas como medicina personalizada, diagnóstico precoce e desenvolvimento de terapias gênicas. Contudo, ele reconhece que a mesma tecnologia pode gerar controvérsias, sobretudo quando se trata de autoria e originalidade das pesquisas.
A disputa sobre as equações de Navier‑Stokes
No final de maio, a OpenAI divulgou que seus agentes de IA teriam encontrado uma solução parcial para as equações de Navier‑Stokes, um dos sete Problemas do Milênio que ainda não tinham sido resolvidos. A empresa afirmou que a resposta foi obtida em 88 horas de cálculo intensivo.
Antes mesmo do anúncio oficial, o matemático Tristan Buckmaster, da Universidade de Nova‑York, levantou suspeitas sobre a procedência dos resultados. Buckmaster, junto ao colega Levent Alpöge, da Anthropic, mantinha um projeto independente e armazenava rascunhos no Codex, a ferramenta de programação da OpenAI.
Ele questionou se o trabalho armazenado no Codex poderia ter sido acessado inadvertidamente pelos sistemas da OpenAI, embora tenha deixado claro que não acusava ninguém diretamente. A OpenAI respondeu que nenhum humano ou IA da empresa teve acesso ao código de Buckmaster antes da publicação, mas admitiu que dados anônimos de uso poderiam ter contribuído para o treinamento dos modelos.
Dias depois, a companhia reforçou a posição de que as interações de Buckmaster nos dois meses anteriores não influenciaram de forma alguma o algoritmo que gerou a solução. O caso permanece sem uma conclusão definitiva, mas evidencia a complexidade das interações entre usuários humanos e sistemas de IA.
Riscos ocultos: confiança e alucinações na ciência
Além das disputas de propriedade intelectual, surge uma preocupação mais sutil: a perda de confiança no método científico. Quando uma IA produz resultados que parecem plausíveis, mas carecem de verificação rigorosa, pesquisadores podem começar a duvidar da originalidade e da precisão dos trabalhos publicados.
Modelos como Claude, da Anthropic, e Gemini, do Google, são conhecidos por gerar “alucinações” – informações falsas apresentadas como verdadeiras. Na literatura científica, isso pode se traduzir em citações inexistentes, dados fabricados ou conclusões errôneas.
Para ilustrar o perigo, veja alguns exemplos recorrentes:
- Referências a artigos que nunca foram publicados.
- Atribuição de frases a autores que nunca as disseram.
- Geração de números de experimentos que não foram realizados.
- Criação de nomes de laboratórios ou instituições inexistentes.
Essas falhas podem passar despercebidas em revisões rápidas, especialmente quando os revisores confiam na reputação de um modelo de IA. Com o tempo, a comunidade científica pode enfrentar um cenário em que a validação de resultados se torna mais custosa e demorada.
Outro ponto crítico é a questão da originalidade. Se pesquisadores utilizam IA para redigir seções de artigos, pode ser difícil distinguir entre ideias genuínas e sugestões geradas por algoritmos. Essa ambiguidade pode levar a acusações de plágio ou a disputas sobre a autoria de descobertas.
Além disso, a dependência crescente de IA pode criar um viés de confirmação, onde os modelos reforçam teorias já estabelecidas e marginalizam abordagens inovadoras que não se alinham aos padrões de treinamento.
Para mitigar esses riscos, especialistas recomendam práticas como:
- Documentar detalhadamente todas as interações com ferramentas de IA.
- Realizar auditorias independentes dos resultados produzidos por algoritmos.
- Manter a revisão humana como etapa obrigatória antes da publicação.
- Desenvolver protocolos de transparência que incluam a divulgação de códigos‑fonte e datasets utilizados.
Essas medidas visam preservar a credibilidade da ciência, garantindo que a IA seja uma aliada e não uma fonte de dúvidas.
Perspectivas futuras e a necessidade de regulação
À medida que empresas de tecnologia intensificam seus investimentos em IA para a pesquisa biológica e matemática, surgem chamadas por regulações claras. Legisladores de diferentes países já iniciaram discussões sobre a responsabilidade legal de algoritmos que geram informações errôneas.
Organizações como a UNESCO e a OECD propõem diretrizes que enfatizam a transparência, a auditabilidade e a responsabilidade ética no uso de IA na ciência. Contudo, a velocidade da inovação muitas vezes ultrapassa a capacidade dos órgãos reguladores de acompanhar.
Enquanto isso, a comunidade acadêmica precisa equilibrar o entusiasmo pelas possibilidades oferecidas pelos grandes modelos de linguagem com a cautela necessária para proteger a integridade do método científico.
Em síntese, o conflito entre Buckmaster e a OpenAI serve como um alerta precoce: a inteligência artificial tem o potencial de transformar a pesquisa, mas também pode introduzir vulnerabilidades que ameaçam a confiança pública e a própria base da ciência.
O futuro dependerá da capacidade dos pesquisadores, das empresas de tecnologia e dos reguladores de estabelecer um ecossistema onde a IA seja utilizada de forma responsável, transparente e verificável.
