Em março de 2024, em San Francisco, a presidente da Signal Foundation, Meredith Whittaker, rebateu as previsões de um suposto “apocalipse” causado pela inteligência artificial. Ela afirma que o verdadeiro perigo está no uso descuidado da IA, e não em máquinas que se voltariam contra a humanidade.
O risco real: uso irresponsável da IA
Whittaker enfatiza que o medo de robôs se rebelarem carece de base científica. Segundo ela, “o risco é muito real, mas não tem nada a ver com essas histórias fantasiosas contadas por garotos alarmistas”.
Para ilustrar o perigo concreto, a executiva cita um caso divulgado pela CNN, no qual um chatbot de inteligência artificial teria criado informações falsas sobre um navio chinês transportando material nuclear. O relatório alegou que os EUA prepararam uma resposta militar baseada nesses dados inventados.
Esse episódio, segundo Whittaker, demonstra como a confiança excessiva em sistemas de IA pode levar a decisões estratégicas equivocadas, colocando em risco a segurança internacional.
Signal e a proteção da privacidade
O Signal, aplicativo de mensagens criptografadas, conta com entre 40 e 70 milhões de usuários ativos, número ainda muito inferior ao do concorrente WhatsApp, que tem cerca de 3 bilhões de usuários. Apesar da diferença de escala, o Signal se destaca por sua postura rigorosa em relação à privacidade.
Os servidores do Signal não armazenam a identidade dos remetentes, reduzindo drasticamente a quantidade de informações que podem ser acessadas por terceiros ou invasores. Essa arquitetura protege os usuários contra vigilância e vazamentos de dados.
Whittaker destaca que a privacidade não é apenas um recurso técnico, mas um princípio ético que deve guiar o desenvolvimento de tecnologias de IA.
A trajetória de Meredith Whittaker no debate sobre IA
Formada em literatura, Whittaker entrou no Google em 2006 como funcionária temporária, sem formação em ciência da computação. Seu interesse por IA surgiu ao descobrir, em 2017, o Projeto Maven, um contrato secreto entre o Google e o Departamento de Defesa dos Estados Unidos para criar sistemas capazes de identificar alvos para drones.
Ao entender o conceito de “encurtar a cadeia de ataque”, Whittaker percebeu que a IA poderia acelerar decisões mortais, diminuindo o tempo de avaliação humana. Ela alertou publicamente que isso faria com que informações de má qualidade parecessem confiáveis.
No ano seguinte, liderou uma paralisação que mobilizou cerca de 20 mil funcionários do Google, protestando contra a implementação apressada de tecnologias militares. O protesto resultou na desistência do Google do contrato, que foi assumido pela Palantir.
Whittaker também relacionou o Projeto Maven ao ataque com mísseis dos EUA contra uma escola no Irã, argumentando que o uso de dados de inteligência desatualizados levou a uma tragédia evitável.
Reconhecida pela revista Time como uma das pessoas mais influentes na área de IA, ela participa de debates em centros de poder como o Vale do Silício, Downing Street, o Fórum Econômico Mundial em Davos e até o Vaticano.
Desafios e perspectivas para startups lideradas por mulheres
Whittaker critica a falta de apoio de investidores de capital de risco a startups comandadas por mulheres. Ela aponta que a desigualdade de financiamento limita a diversidade de perspectivas na criação de tecnologias responsáveis.
Em entrevista, ela destacou que a inclusão de diferentes vozes é essencial para evitar vieses e garantir que a IA sirva a toda a sociedade, não apenas a interesses corporativos ou militares.
Para ilustrar suas ideias, Whittaker propõe quatro ações concretas que investidores e empreendedores podem adotar:
- Priorizar a transparência nos algoritmos desde o início do desenvolvimento.
- Investir em equipes diversificadas, garantindo a presença de mulheres e minorias em cargos de liderança.
- Estabelecer auditorias independentes que verifiquem o uso ético da IA.
- Fomentar parcerias com organizações de defesa de direitos digitais para fortalecer a proteção de privacidade.
Ao seguir essas diretrizes, Whittaker acredita que o setor de IA pode evitar os cenários alarmistas que costumam dominar a mídia, focando em soluções que realmente reduzem riscos e promovem benefícios sociais.
Em resumo, a mensagem de Meredith Whittaker é clara: a inteligência artificial não se tornará um monstro por si só; o perigo reside nas escolhas humanas sobre como e onde aplicá‑la. A responsabilidade recai sobre desenvolvedores, investidores, governos e usuários, que devem garantir que a tecnologia seja usada de forma ética, transparente e segura.
