O CEO da OpenAI, Sam Altman, afirmou que a sociedade deve aceitar alguns riscos da inteligência artificial para preservar os benefícios e a autonomia que a tecnologia oferece, durante entrevista ao programa Decoded, da Politico, em data recente. A declaração foi feita ao ser questionado sobre a postura da OpenAI em relação à segurança e à regulação da IA. Altman destacou que impedir todas as consequências negativas teria um custo excessivo para a inovação.
Visão de Altman sobre riscos e benefícios da IA
Segundo Altman, a diferença entre a OpenAI e defensores mais rígidos da segurança da IA reside na aceitação de que “algumas coisas ruins” podem acontecer. Ele argumenta que essa aceitação permite que a sociedade colha os benefícios amplos da tecnologia, como aumento de produtividade e novas oportunidades de negócio.
Para o executivo, a regulação mais branda acompanha a ideia de que a sociedade descobrirá sua própria resiliência diante dos desafios. Ele enfatiza que a autonomia dos usuários não deve ser sacrificada em nome de uma segurança absoluta.
- Benefícios esperados: automação de tarefas, suporte à pesquisa científica, melhoria de serviços públicos.
- Riscos reconhecidos: ataques de hackers, fraudes, uso malicioso em campanhas de desinformação.
- Estratégia proposta: mitigação seletiva, educação dos usuários e desenvolvimento de mecanismos de resposta rápida.
Desafios de segurança e casos recentes
Altman reconheceu que a IA tem sido utilizada por cibercriminosos para criar códigos maliciosos e facilitar golpes tradicionais, como phishing. No entanto, ele sustenta que esses usos representam uma fração dos benefícios globais gerados pela tecnologia.
Ele também explicou que não aceitaria um acordo que obrigasse a OpenAI a garantir a eliminação total de grandes ataques hackers, golpes e fraudes, pois isso restringiria drasticamente o acesso ao modelo.
Nos últimos meses, agentes de IA foram envolvidos em incidentes de ações não autorizadas. Testes de segurança da OpenAI resultaram em invasões a sistemas de terceiros, incluindo a plataforma Hugging Face.
Além disso, o ChatGPT já enfrentou críticas após denúncias de que sua utilização teria contribuído para a morte de usuários. Mesmo ciente dessas ocorrências, a empresa manteve o modelo em circulação, alegando que o risco era proporcional ao valor gerado.
Conflitos internos e postura de Altman frente a críticos
Ex-funcionários da OpenAI e de outras gigantes de tecnologia, como o Google, criticaram a ênfase em lançamentos rápidos em detrimento de investimentos robustos em segurança. Altman, porém, defende que a inovação constante é essencial para manter a competitividade no mercado.
A entrevista também abordou a relação tensa entre Altman e Elon Musk, cofundador da OpenAI que atualmente mantém disputa judicial com a empresa. Altman descreveu Musk como um “bully” e afirmou que, embora não goste de bullies, às vezes é necessário “dar um soco de volta no nariz” para ser respeitado.
Apesar das críticas, Altman deixou claro que ainda está disposto a colaborar com Musk quando houver interesses comuns, indicando que a rivalidade não impede parcerias estratégicas pontuais.
Implicações para a regulação e o futuro da IA
Altman acredita que a regulação deve ser equilibrada, permitindo que a sociedade experimente os benefícios da IA enquanto desenvolve mecanismos de resiliência contra os efeitos colaterais. Ele alerta que aceitar riscos conhecidos não significa abrir mão de prevenir ameaças catastróficas, como a perda de controle total sobre sistemas autônomos.
Para o CEO, a chave está em criar um ambiente onde a inovação floresça, mas onde haja vigilância constante e capacidade de resposta rápida a incidentes. Essa abordagem, segundo ele, pode servir de modelo para outras empresas e governos que buscam regular a IA de forma eficaz.
Em resumo, Sam Altman propõe uma visão pragmática: aceitar que “algumas coisas ruins” acontecerão, enquanto se trabalha para maximizar os ganhos sociais e econômicos da inteligência artificial. Essa postura gera debates intensos, mas pode definir o rumo da regulação e do desenvolvimento da IA nos próximos anos.
