Na segunda‑feira, 14 de setembro, o alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, convocou uma ação urgente para regular a inteligência artificial, apontando os riscos sem precedentes que a tecnologia avançada representa para a sociedade global.
Em pronunciamento feito em Genebra, o diplomata destacou que os direitos fundamentais, como o direito à vida, estão ameaçados pela expansão descontrolada dos sistemas de IA.
Contexto internacional e alerta da ONU
O alerta de Türk surge em um momento em que a corrida por sistemas cada vez mais poderosos tem acelerado, colocando em xeque a capacidade de governos e organismos multilaterais de acompanhar o ritmo da inovação.
Em reunião anterior, realizada em 7 de setembro, o próprio alto comissário já havia avisado o Conselho de Direitos Humanos de que a IA poderia constituir um risco existencial para a humanidade, caso não fossem estabelecidas salvaguardas adequadas.
Ele enfatizou que a dependência de um pequeno número de corporações para definir os rumos da tecnologia cria um ponto de vulnerabilidade que pode ser explorado por interesses particulares ou por estados autoritários.
A preocupação não se restringe ao âmbito dos direitos civis; especialistas apontam que a IA pode impactar a segurança nacional, a economia e até a própria estrutura do trabalho.
Reações de líderes da indústria e de políticos
Empresários de tecnologia dos Estados Unidos, incluindo o CEO da Anthropic, Dario Amodei, pediram uma desaceleração nos desenvolvimentos para permitir avaliações mais aprofundadas dos riscos associados às novas capacidades da IA.
Amodei recebeu apoio público de Sam Altman, da OpenAI, e do bilionário Elon Musk, que também tem defendido a necessidade de regulamentação mais rígida.
Entretanto, a postura política nos EUA tem sido divergente. O ex‑presidente Donald Trump utilizou sua plataforma Truth Social para acusar uma suposta “conspiração doentia” contra o avanço da IA, insinuando que apenas a China se beneficiaria de uma contenção dos projetos americanos.
Na China, autoridades de inteligência alertaram que a tecnologia pode ser empregada por potências estrangeiras para desestabilizar a segurança nacional, reforçando a ideia de que a IA é uma arena de disputa geopolítica.
Desafios e caminhos para a regulação da IA
Türk pediu, de forma enfática, que os principais desenvolvedores de IA – localizados principalmente na República Popular da China e nos Estados Unidos – assumam responsabilidade e adotem medidas imediatas para mitigar os riscos.
Ele sugeriu a criação de estruturas multilaterais que possibilitem a cooperação entre Estados, sociedade civil e setor privado, a fim de estabelecer normas claras sobre transparência, responsabilidade e governança dos algoritmos.
Para ilustrar as áreas críticas que demandam atenção, o alto comissário enumerou os principais pontos de risco:
- Violações de privacidade massiva devido ao uso indevido de dados pessoais;
- Discriminação algorítmica que amplifica preconceitos existentes;
- Manipulação de informação e desinformação em larga escala;
- Autonomia de sistemas militares que podem operar sem supervisão humana;
- Concentração de poder econômico nas mãos de poucas empresas.
Além desses itens, especialistas destacam a necessidade de mecanismos de auditoria independentes, que possam avaliar a conformidade dos sistemas de IA com padrões internacionais de direitos humanos.
Outro ponto crucial é a definição de limites claros para a utilização de IA em processos decisórios críticos, como recrutamento, concessão de crédito e monitoramento de segurança pública.
Em paralelo, organizações da sociedade civil têm pressionado por uma abordagem centrada no ser humano, que coloque a dignidade e a autonomia dos indivíduos como pilares fundamentais da regulação.
O debate também inclui questões sobre a propriedade intelectual dos modelos de IA, já que a maioria dos avanços recentes provém de grandes corporações que detêm vastos recursos computacionais e bases de dados extensas.
Para enfrentar esses desafios, alguns países já iniciaram processos legislativos. A União Europeia, por exemplo, avançou com a proposta de um “AI Act” que estabelece requisitos de transparência e avaliação de risco antes da comercialização de sistemas de alto impacto.
Nos Estados Unidos, projetos de lei como o “Algorithmic Accountability Act” buscam criar obrigações de relatórios e auditorias para algoritmos que influenciem decisões públicas.
Enquanto isso, a China tem adotado diretrizes que enfatizam a “segurança nacional” e a “direção ética” da IA, embora críticos apontem que tais normas podem servir a interesses de controle estatal.
O cenário global revela, portanto, uma fragmentação de abordagens que pode dificultar a construção de um consenso internacional robusto.
Türk concluiu que a falta de uma governança coordenada pode transformar a IA em uma “arma de destruição em massa digital”, capaz de comprometer a paz, a democracia e os direitos fundamentais.
Ele reiterou que a comunidade internacional tem a responsabilidade coletiva de impedir que a tecnologia se torne um vetor de opressão, ao invés de uma ferramenta de progresso.
Em síntese, a chamada à ação urgente da ONU reflete a percepção de que a IA, embora ofereça oportunidades extraordinárias, também traz ameaças que exigem respostas rápidas, coordenadas e baseadas em princípios de direitos humanos.
