Em julho de 2024, a China divulgou um conjunto de normas sem precedentes que limitam a atuação de inteligências artificiais capazes de manter interações emocionais prolongadas com pessoas. A medida foi anunciada pelo Ministério da Indústria e Tecnologia da Informação e se aplica a aplicativos que funcionam como amigos, namorados ou conselheiros virtuais. O objetivo oficial é proteger a população de possíveis abusos psicológicos e de manipulação por parte de sistemas que imitam relações humanas.
Vigilância e intervenção precoce: o caso que desencadeou o debate
No início de 2024, um jovem da cidade de Huangshi, no sudeste da China, postou no Douyin (versão chinesa do TikTok) uma mensagem curta dizendo “Adeus a este mundo”. Em poucos minutos, a equipe de prevenção ao suicídio do aplicativo, que opera 24 horas por dia, recebeu o alerta e encaminhou o conteúdo a cinco delegacias locais.
Com a ajuda da geolocalização, a polícia encontrou o jovem em um parque, ainda em estado de crise emocional, e conseguiu impedir que ele cometesse o ato. O episódio foi incluído em um documentário produzido pelo próprio Douyin e divulgado pela mídia estatal chinesa, que destacou que, no primeiro semestre de 2025, a equipe já havia intervenído em 400 casos semelhantes.
Regulamentação dos chatbots: o que mudou?
As novas regras, consideradas as mais abrangentes do mundo, estabelecem que qualquer IA que possa gerar “interações emocionais prolongadas” deve ser submetida a um processo de licenciamento rigoroso. Entre as exigências estão:
- Limite de tempo de conversa diária, que não pode ultrapassar 30 minutos.
- Obrigatoriedade de avisos claros ao usuário indicando que está conversando com uma máquina.
- Proibição de oferecer conselhos psicológicos ou românticos sem supervisão de profissionais certificados.
- Monitoramento de conteúdo por autoridades para detectar possíveis tentativas de manipulação ou incitação ao suicídio.
Além disso, os desenvolvedores precisam submeter seus algoritmos a auditorias de viés e transparência, e manter registros de todas as interações por, no mínimo, seis meses.
Impacto nas plataformas de companhia virtual
Antes da regulamentação, aplicativos de companhia por IA contavam com milhões de usuários ativos. Segundo a empresa de inteligência de mercado Sensor Tower, cerca de 128 milhões de pessoas no mundo utilizavam esses serviços mensalmente fora da China, enquanto estimativas internas apontam entre 29 e 70 milhões de usuários dentro do país.
Com as novas restrições, plataformas como Xiaoice, Baidu’s Ernie Bot e outras que oferecem “amigos virtuais” ou “namorados digitais” terão que adaptar seus produtos ou correr o risco de serem retiradas do mercado. Muitos usuários relataram que dependem desses bots para combater a solidão, especialmente em áreas rurais onde o acesso a serviços de saúde mental é limitado.
Especialistas apontam que a medida pode gerar um efeito colateral: a migração de usuários para serviços estrangeiros que ainda não obedecem às normas chinesas, como o ChatGPT da OpenAI, que, embora não seja especificamente projetado para relações amorosas, pode ser usado de forma similar pelos usuários.
Contexto político e diplomático
A decisão chinesa surge em um momento de tensão geopolítica sobre a governança da IA. Em setembro de 2024, o presidente dos Estados Unidos, Donald Trump, encontrou-se com Xi Jinping nos Estados Unidos, e ambos concordaram em iniciar um novo diálogo sobre regulação de IA, com a primeira rodada marcada para novembro do mesmo ano.
Embora o encontro tenha sido divulgado como um passo rumo à cooperação internacional, críticos chineses argumentam que a medida interna reflete um desejo do Partido Comunista de aprofundar o controle sobre a vida privada dos cidadãos, usando a tecnologia como ferramenta de vigilância.
Pesquisadores como Zilan Qian, do Laboratório de Política Chinesa da Universidade de Oxford, observaram que a discussão nas redes sociais chinesas foi intensa e polarizada. Muitos usuários temiam que as regras pudessem cercear a liberdade de expressão e o direito à companhia emocional, enquanto outros viam nelas uma proteção necessária contra a manipulação algorítmica.
Desafios e perspectivas futuras
O futuro dos chatbots que simulam relações humanas na China ainda é incerto. As empresas terão que equilibrar a inovação tecnológica com as exigências de compliance, ao mesmo tempo em que buscam manter a confiança dos usuários.
Algumas estratégias já estão sendo testadas:
- Desenvolvimento de “modos de segurança” que limitam automaticamente a profundidade emocional das conversas.
- Parcerias com clínicas de saúde mental para oferecer encaminhamentos humanos quando o bot detectar sinais de risco.
- Implementação de filtros de linguagem que evitam respostas potencialmente manipuladoras ou enganosas.
Ao mesmo tempo, organizações internacionais de direitos digitais alertam que a abordagem chinesa pode servir de modelo para outros regimes autoritários, que poderiam usar a mesma justificativa de “proteção psicológica” para restringir ainda mais a liberdade individual.
Para os consumidores, a mensagem principal é que, a partir de agora, toda interação com uma IA que pareça humana será acompanhada de avisos claros e de limites impostos por lei. A expectativa é que, nos próximos anos, a regulação evolua para incluir também questões como responsabilidade civil em casos de danos psicológicos causados por bots.
