Um juiz federal dos Estados Unidos recusou nesta sexta‑feira (4) a solicitação da xAI, empresa fundada por Elon Musk, para suspender a lei de Minnesota que proíbe a criação de nudez digitalmente manipulada por inteligência artificial. A decisão mantém a norma em vigor desde 1º de agosto, quando passou a impedir que plataformas e desenvolvedores permitam a remoção de roupas de pessoas identificáveis em fotos.
Contexto da legislação e seu alcance
A medida foi aprovada pelo Legislativo de Minnesota como a primeira lei americana a tratar especificamente de imagens íntimas falsas produzidas por IA. Ela impõe restrições a operadores de sites, criadores de softwares e a qualquer pessoa que ofereça ferramentas que possibilitem a geração de conteúdo sexual não consensual.
Entre as obrigações previstas, os responsáveis devem implementar mecanismos de verificação e bloqueio, sob pena de multas e sanções civis. A intenção declarada é combater o chamado “deepfake pornográfico”, que tem causado sofrimento psicológico e danos à reputação das vítimas.
- Proibição de remover digitalmente roupas de indivíduos identificáveis;
- Obrigação de monitorar e bloquear solicitações de geração de imagens não consensuais;
- Sanções que podem chegar a dezenas de milhares de dólares por infração;
- Aplicação imediata a partir de 1º de agosto de 2023.
Argumentos da xAI e a posição do tribunal
A xAI sustenta que a lei fere a Primeira Emenda da Constituição dos EUA, ao limitar uma forma de expressão protegida. Segundo a empresa, a restrição impede o desenvolvimento e a oferta de tecnologias inovadoras, além de criar um precedente perigoso para futuros regulamentos de conteúdo digital.
O juiz federal Donovan Frank, no entanto, avaliou que a xAI não demonstrou risco concreto de prejuízos financeiros ou operacionais caso a lei continue a ser aplicada. Ele ressaltou que as questões constitucionais são complexas e exigem uma análise aprofundada ao longo do processo judicial.
Frank também destacou que a tecnologia de IA ainda está em fase emergente, o que aumenta a responsabilidade do Estado em proteger o público contra abusos que podem gerar danos irreparáveis.
Repercussões para o chatbot Grok e para usuários
O Grok, chatbot desenvolvido pela xAI e integrado à rede social X, já foi alvo de críticas por gerar conteúdo sexualmente explícito sem consentimento. Reguladores têm pressionado a empresa a reforçar seus filtros e a adotar políticas mais rigorosas.
Em resposta, a xAI iniciou processos contra usuários que, segundo a empresa, contornaram os mecanismos de proteção para criar imagens íntimas falsas. A medida busca desincentivar a prática e responsabilizar quem viola os termos de uso.
Além disso, o estado de Minnesota tem intensificado a fiscalização, realizando auditorias em plataformas que utilizam IA para edição de imagens. A parceria entre autoridades e especialistas em ética digital visa criar padrões de segurança mais robustos.
O caso ainda está em fase de julgamento, e tanto a xAI quanto o gabinete do procurador‑geral de Minnesota não responderam imediatamente aos pedidos de comentário. Enquanto isso, a comunidade tecnológica acompanha de perto o desenrolar, temendo que decisões futuras possam moldar o futuro da liberdade de expressão e da proteção à privacidade na era da inteligência artificial.
