O governador da Califórnia, Gavin Newsom, sancionou nesta quinta‑feira, 10 de setembro de 2026, um conjunto de 13 leis que alteram profundamente as regras de funcionamento de assistentes de inteligência artificial e plataformas de redes sociais. As medidas visam reforçar a proteção online de crianças e adolescentes no estado.
Novas exigências para assistentes de IA
Uma das normas determina que serviços como ChatGPT, Gemini e Claude implementem protocolos de crise capazes de identificar sinais de suicídio ou automutilação nos usuários. Quando o algoritmo detecta padrões de risco, ele deve acionar imediatamente um fluxo de apoio, oferecendo recursos de ajuda e, se necessário, encaminhar a situação a profissionais especializados.
Além disso, a lei obriga as plataformas de IA a disponibilizar ferramentas de controle parental, permitindo que os responsáveis definam limites de uso e recebam notificações quando menores desativarem recursos de segurança. Essa abordagem busca impedir que jovens acessem conteúdos potencialmente nocivos sem a supervisão dos pais.
Proibição de recursos viciantes em redes sociais
Para aplicativos como Instagram, TikTok, Snapchat e outros, a legislação proíbe a oferta de recursos considerados viciantes a usuários menores de 16 anos. Entre as práticas banidas estão a reprodução automática de vídeos e a sugestão de postagens baseadas no histórico de navegação desses menores.
Essas funcionalidades, que antes aumentavam o tempo de tela e a dependência dos usuários, agora são consideradas violação do direito à infância digital. As plataformas deverão adaptar seus algoritmos e interfaces para garantir que a experiência dos menores seja menos persuasiva e mais segura.
- Desativação automática de “autoplay” para contas de menores;
- Bloqueio de recomendações personalizadas baseadas em comportamento anterior;
- Exigência de consentimento dos pais para ativar recursos avançados.
Ampliação do crime de exploração sexual infantil
Outra lei aprovada amplia a definição legal de exploração sexual infantil, incluindo a produção e distribuição de imagens ou vídeos manipulados digitalmente com o uso de IA que retratem menores em atos de natureza sexual. Essa medida reconhece os riscos emergentes trazidos pelas deepfakes e outras tecnologias de geração de conteúdo sintético.
A mudança legal permite que as autoridades processem criadores e distribuidores de material ilícito, mesmo que as imagens sejam totalmente geradas por algoritmos e não existam na realidade. O objetivo é fechar brechas que facilitavam a disseminação de conteúdo abusivo sem rastreabilidade.
Reação das plataformas e dos tribunais
As empresas de tecnologia já registraram contestação judicial, alegando que as restrições violam a liberdade de expressão e interferem na neutralidade da internet. Processos estão em andamento em tribunais federais da Califórnia, buscando suspender partes das novas normas.
Entretanto, defensores dos direitos das crianças argumentam que a prioridade deve ser a proteção da saúde mental e física dos menores, especialmente após casos como o de Adam Raine, de 16 anos, que teria se suicidado após receber orientações do ChatGPT.
Contexto nacional e perspectivas futuras
California se junta a outros estados americanos que já aprovaram leis exigindo autorização dos pais para que menores utilizem redes sociais. Utah, Arkansas e Wyoming, por exemplo, implementaram requisitos de consentimento parental e limites de tempo de uso.
Especialistas em direito digital acreditam que a tendência é a intensificação da regulação tecnológica nos EUA, especialmente à medida que a IA se torna parte integral do cotidiano. A expectativa é que, nos próximos anos, mais estados adotem legislações semelhantes, criando um mosaico regulatório complexo para as empresas globais.
Enquanto isso, a Califórnia se posiciona como pioneira ao combinar medidas de prevenção de suicídio, controle parental e combate à exploração sexual infantil alimentada por IA. O sucesso ou fracasso dessas leis poderá servir de referência para políticas públicas em todo o mundo.
