Adam Mosseri, chefe do Instagram, declarou que a rede ainda não encontrou uma solução eficaz para combater perfis que utilizam deep fakes criados por inteligência artificial. A fala foi feita em entrevista concedida ao The Independent, publicada em junho de 2024, e reflete a preocupação da empresa com a manipulação de conteúdo audiovisual. O problema vem se intensificando nos últimos meses, especialmente em contas com grande número de seguidores.
O que são os deep fakes e como eles chegam ao Instagram
Deep fakes são vídeos ou imagens gerados por algoritmos de IA que substituem o rosto ou a voz de uma pessoa por outra, mantendo o áudio original. No Instagram, esses conteúdos são publicados em perfis que costumam ter milhares de seguidores, o que facilita a disseminação rápida. O uso de avatares femininos ou masculinos para substituir apresentadores tem sido relatado por criadores que veem seus trabalhos sendo copiados sem autorização.
Um exemplo concreto foi apresentado pelo comediante norte‑americano George Brett Olson, que encontrou um perfil usando sua apresentação como base, mas trocando sua imagem por um avatar feminino gerado por IA. O áudio da palestra permaneceu intacto, enquanto a imagem foi substituída, criando um deep fake que confundiu os seguidores.
Além de comediantes, outros setores criativos também têm sido alvos. Perfis que utilizam vídeos de dançarinos para gerar gravações onde personagens de IA reproduzem coreografias são cada vez mais frequentes, ampliando o alcance da prática.
Reação da liderança do Instagram
Mosseri afirmou estar “muito preocupado” com a prática, mas descartou a ideia de uma proibição total de conteúdos gerados por IA. Segundo ele, uma medida tão drástica seria impraticável, pois a tecnologia evolui rapidamente e nem todo conteúdo criado por IA é prejudicial.
Em resposta direta à publicação de Olson, o executivo destacou que a Meta está avaliando formas de direcionar mais tráfego aos autores originais. Ele reconheceu que a plataforma precisa de mecanismos mais eficazes para lidar com cópias integrais de produções protegidas por direitos autorais.
O Instagram já oferece ferramentas de denúncia por violação de direitos autorais, mas Mosseri admitiu que o mecanismo nem sempre resolve as situações relatadas pelos criadores. Muitos autores ainda não tomaram medidas formais de proteção, o que dificulta a ação da plataforma.
Comparativo com outras redes sociais
Outras plataformas também enfrentam o desafio dos deep fakes. O X, de Elon Musk, recentemente ajustou seu algoritmo de recomendação para limitar o alcance de conteúdo copiado e alterou seu sistema de monetização para favorecer criações originais. Essas mudanças servem de referência para a Meta, que ainda está em fase de definição de políticas específicas.
Mosseri destacou que a Meta pretende encontrar um equilíbrio entre impedir abusos e não sufocar a criatividade que a IA pode proporcionar. Ele sugeriu que, no futuro, o algoritmo poderia ser treinado para identificar padrões de manipulação visual e sinalizar automaticamente conteúdos suspeitos.
Entretanto, o executivo alertou que a identificação de deep fakes será cada vez mais complexa, pois a tecnologia de geração de imagens está avançando a passos largos. Ele enfatizou que a plataforma deve estar preparada para adaptar suas ferramentas de detecção continuamente.
O caminho a seguir: propostas e desafios
Para enfrentar o problema, Mosseri sugeriu que o Instagram poderia adotar as seguintes medidas:
- Implementação de um sistema de verificação automática que analise metadados e padrões de pixel para detectar possíveis deep fakes.
- Criação de um programa de apoio aos criadores que ofereça orientações sobre registro de direitos autorais e como usar as ferramentas de denúncia de forma eficaz.
- Parcerias com empresas de tecnologia especializadas em detecção de manipulação audiovisual, garantindo atualizações constantes nos algoritmos.
- Transparência nas políticas de moderação, divulgando publicamente os critérios usados para remover ou limitar conteúdo.
Essas propostas ainda precisam ser testadas em escala, pois a aplicação prática pode gerar efeitos colaterais inesperados, como a remoção de conteúdo legítimo que utiliza IA de forma criativa.
Além disso, há a questão das denúncias falsas. Mosseri reconheceu que agentes mal‑intencionados podem abusar do sistema para silenciar concorrentes ou críticos, o que exige filtros adicionais para validar a veracidade das reclamações.
Em resumo, a Meta está em um ponto de inflexão onde decisões estratégicas podem definir o futuro da moderação de conteúdo gerado por IA. A empresa precisa equilibrar a proteção dos direitos autorais com a liberdade de experimentação tecnológica.
Os criadores, por sua vez, são encorajados a registrar seus trabalhos e a usar as ferramentas de denúncia sempre que identificarem cópias não autorizadas. A conscientização sobre a existência de deep fakes também é fundamental para que o público reconheça a diferença entre conteúdo original e manipulado.
Enquanto isso, o debate sobre a regulação de IA nas redes sociais continua em alta, envolvendo legisladores, especialistas em ética e representantes das plataformas digitais. O resultado desse diálogo poderá influenciar diretamente as políticas internas do Instagram nos próximos anos.
Até lá, a comunidade criativa permanece vigilante, observando as ações da Meta e buscando alternativas para proteger suas criações. A luta contra os deep fakes ainda está em seus estágios iniciais, mas a pressão dos usuários pode acelerar a implementação de soluções mais robustas.
