Em entrevista concedida à Reuters, a jornalista e vencedora do Nobel da Paz, Maria Ressa, alertou sobre os perigos que a Inteligência Artificial (IA) representa para a sociedade contemporânea. O alerta foi feito em 2024, durante um período de intensas discussões sobre a regulação de tecnologias emergentes nos Estados Unidos e na União Europeia. Ressa destaca que a IA já está sequestrando a atenção humana e manipulando necessidades biológicas, exigindo ação legislativa imediata.
A evolução da IA segundo Maria Ressa
Maria Ressa descreve a trajetória da IA em três fases distintas, ressaltando que a tecnologia não é novidade, mas tem se transformado ao longo de sete décadas. Ela afirma que a primeira fase corresponde ao boom das redes sociais, que capturam a atenção dos usuários e alimentam a polarização social.
A segunda fase, segundo a repórter, envolve a intervenção direta na biologia humana por meio de chatbots e assistentes virtuais que exploram a intimidade dos indivíduos. Ressa alerta que essa prática constitui um “hack biológico” que altera padrões de comportamento e percepção.
A terceira fase, a mais avançada, refere‑se à autonomia humana sendo substituída por máquinas capazes de agir em nome das pessoas. Ela descreve esses sistemas como “modelos de fronteira” que não apenas simulam a linguagem humana, mas também tomam decisões operacionais sem supervisão.
Os riscos de atenção, biologia e autonomia
Os riscos apontados por Ressa se concentram em três áreas críticas: a captura de atenção, a manipulação biológica e a perda de autonomia. Cada uma dessas dimensões cria vulnerabilidades que podem comprometer a segurança pública e a liberdade individual.
Na captura de atenção, as plataformas digitais utilizam algoritmos de recomendação que mantêm os usuários engajados por tempo prolongado, gerando dependência e dificultando a formação de opiniões críticas. Esse mecanismo favorece a disseminação de desinformação e a radicalização de grupos.
Quanto à manipulação biológica, os chatbots e assistentes virtuais coletam dados sensíveis sobre emoções, hábitos de sono e padrões de consumo, permitindo que empresas ajustem estratégias de marketing de forma quase cirúrgica. Essa prática, segundo Ressa, constitui uma forma de “sequestro biológico” que pode influenciar decisões de saúde e bem‑estar.
Por fim, a perda de autonomia ocorre quando sistemas de IA tomam decisões em nome dos usuários, desde recomendações de compras até escolhas de conteúdo informativo. Ressa alerta que, sem mecanismos de controle, essas decisões podem ser enviesadas por interesses corporativos ou políticos.
- Fase 1: Redes sociais e captura de atenção
- Fase 2: Hack biológico via chatbots e assistentes virtuais
- Fase 3: Autonomia humana substituída por IA avançada
Caminhos para a regulação e responsabilidade
Para enfrentar esses desafios, Maria Ressa propõe que as empresas de IA sejam responsabilizadas legalmente por seus impactos sociais. Ela enfatiza que a regulação deve ser construída de forma colaborativa entre governos, sociedade civil e especialistas em tecnologia.
Recentemente, a União Europeia avançou com um marco regulatório que impõe limites ao uso de IA em contextos sensíveis, como recrutamento e vigilância. Nos Estados Unidos, a Meta foi forçada a modificar algoritmos e designs para proteger menores de conteúdo nocivo, estabelecendo um precedente importante para a indústria.
Ressa também recomenda que campanhas de conscientização sejam lançadas para mobilizar cidadãos a exigir leis mais rígidas. Ela acredita que a pressão popular pode acelerar a criação de normas que protejam a privacidade, a saúde mental e a liberdade de escolha.
Além das medidas governamentais, a jornalista sugere que as próprias plataformas adotem princípios de design ético, reduzindo elementos viciantes e oferecendo opções de desativação de algoritmos personalizados. Essa abordagem visa diminuir a dependência psicológica dos usuários.
Executivos de grandes empresas de tecnologia, por sua vez, têm pedido mais tempo para desenvolver protocolos de segurança robustos antes de lançar novas funcionalidades de IA. Eles argumentam que a velocidade de inovação supera a capacidade regulatória atual, gerando riscos de segurança, como invasões a sistemas críticos durante testes fechados.
Em síntese, Maria Ressa acredita que a combinação de regulação estatal, responsabilidade corporativa e engajamento cidadão constitui a melhor estratégia para preservar a autonomia humana diante da expansão da IA. Ela conclui que, sem ação imediata, a tecnologia pode escapar ao controle democrático, comprometendo gerações futuras.
