Brad Smith, vice‑presidente e presidente da Microsoft, afirmou nesta segunda‑feira (12) que a inteligência artificial está sujeita a menos exigências de segurança do que o leite vendido nos supermercados, gerando preocupação sobre a falta de proteção dos usuários.
A urgência de regras globais para a IA
Em entrevista à BBC, Smith destacou a necessidade de normas internacionais que obriguem as empresas a notificar vítimas quando seus sistemas forem comprometidos por agentes de IA descontrolados. Ele defende a criação de um “freio de emergência” que possa ser acionado imediatamente.
Além do alerta, o executivo propõe que haja relatórios obrigatórios sobre incidentes, permitindo que autoridades e a sociedade acompanhem os riscos em tempo real. Segundo ele, a experiência acumulada em outros setores pode servir de base para essas novas exigências.
Para ilustrar a gravidade da situação, Smith citou exemplos recentes de comportamentos inesperados de agentes de IA, como respostas ofensivas ou decisões que violam políticas de uso. Empresas como Anthropic e OpenAI já começaram a divulgar esses episódios, sinalizando que o problema não é isolado.
Comparação inusitada: IA versus leite
A analogia entre IA e leite pode parecer curiosa, mas revela um ponto crítico: enquanto o leite passa por rigorosos testes de qualidade, rotulagem e controle de contaminantes, a IA ainda carece de padrões equivalentes. Smith ressaltou que, nos últimos anos, foram implementadas legislações que exigem certificação de segurança para alimentos, mas não para algoritmos.
Ele explicou que a diferença se deve, em parte, à rapidez com que a tecnologia avança, dificultando a criação de normas estáticas. No entanto, a ausência de requisitos claros aumenta o risco de danos massivos, inclusive à vida humana, caso sistemas críticos sejam manipulados.
Para tornar a comparação mais concreta, Smith enumerou algumas exigências que o leite cumpre e que a IA ainda não tem:
- Teste de contaminação microbiológica antes da comercialização;
- Rotulagem clara de alergênicos, como lactose;
- Procedimentos de recall rápido em caso de contaminação;
- Fiscalização regular por órgãos de saúde pública.
Ele propôs que a IA adote medidas semelhantes, como auditorias independentes, certificação de segurança antes do lançamento e mecanismos de remoção rápida de versões problemáticas.
Cenário regulatório internacional
O Reino Unido tem se destacado ao criar o Instituto de Segurança de IA, iniciativa lançada durante o governo de Rishi Sunak. Segundo Smith, o instituto tem acesso antecipado aos principais modelos antes de sua disponibilização ao público, permitindo avaliações de risco mais precisas.
Nos Estados Unidos, autoridades veem Londres de forma diferente de Bruxelas. Enquanto a União Europeia já implementou o AI Act, que regula a IA de acordo com o nível de risco, os EUA ainda buscam uma abordagem mais flexível, baseada em princípios voluntários e autorregulação.
O AI Act da UE classifica sistemas de IA em categorias de risco – inaceitável, alto, limitado e mínimo – e impõe obrigações específicas para cada uma delas. Entre as exigências estão avaliações de impacto, transparência de dados e supervisão humana constante.
Em contraste, o modelo britânico foca em acordos voluntários entre o instituto e as empresas, mas com a possibilidade de tornar esses acordos obrigatórios caso os riscos sejam identificados como críticos. Essa estratégia busca equilibrar inovação e segurança.
Desafios e perspectivas para o futuro
Apesar das propostas, ainda há resistência de alguns líderes do setor que temem que regras rígidas possam atrasar o desenvolvimento e aumentar os custos. Eles argumentam que a regulação excessiva poderia favorecer empresas já consolidadas, limitando a entrada de novos concorrentes.
Por outro lado, especialistas em ética tecnológica alertam que a falta de controle pode gerar consequências catastróficas, incluindo a possibilidade de IA ser usada para manipular eleições, criar deepfakes ou até desencadear incidentes em infraestruturas críticas.
Para enfrentar esses dilemas, Smith sugeriu a criação de um conselho internacional composto por representantes de governos, academia, sociedade civil e empresas de tecnologia. Esse órgão teria a missão de revisar continuamente os padrões de segurança e atualizar as diretrizes conforme a tecnologia evolui.
Além disso, ele recomendou a implementação de um registro público de incidentes de IA, onde cada ocorrência fosse documentada, analisada e disponibilizada para consulta. Essa transparência poderia estimular a confiança dos usuários e acelerar a adoção de boas práticas.
Em suma, a mensagem de Smith é clara: a sociedade não pode esperar que a IA se autorregule como um produto de consumo comum. É preciso agir agora, adotando medidas de segurança tão rigorosas quanto as aplicadas ao leite, para garantir que a tecnologia beneficie a humanidade sem colocar vidas em risco.
