Na última semana, a Meta revelou que corrigiu o assistente de inteligência artificial que, em um caso recente, sugeriu perguntas íntimas sobre a filha de uma usuária. O incidente ocorreu em julho de 2024, quando a mulher compartilhou um vídeo nas plataformas Instagram e Facebook. A correção foi anunciada ainda nesta quinta-feira, em comunicado oficial da empresa.
O que aconteceu com a sugestão da IA
A usuária, Kalie Robins, percebeu que a ferramenta Meta AI perguntou “Quem é a criança?” enquanto ela cantava com a filha no carro. Ao aceitar a sugestão, a IA exibiu um conjunto de dados que incluía nomes, datas de aniversário e até vídeos de ambas as filhas, mesmo a que não aparecia no vídeo.
Segundo relatos, a IA cruzou informações públicas de perfis familiares, combinando postagens antigas, stories e até fotos que a mãe acreditava ter apagado. O algoritmo, ao analisar o histórico da conta, reuniu detalhes que não foram explicitamente compartilhados com a ferramenta naquele momento.
Robins compartilhou prints mostrando a IA tentando identificar a localização da família, usando endereços antigos que constavam em publicações de anos anteriores. A ferramenta, então, passou a sugerir novas perguntas sobre a idade das crianças e o bairro onde moravam.
Reação da Meta e medidas adotadas
A porta‑voz da empresa, Dina El‑Kassaby, admitiu que a tecnologia “errou o alvo” e que nunca deveria ter gerado perguntas tão pessoais. Ela destacou que a equipe já desativou o recurso que permitia a geração automática de sugestões invasivas.
Entretanto, a correção se limita às sugestões automáticas. Caso um usuário faça a mesma pergunta de forma direta, a IA ainda pode responder, desde que tenha acesso às informações autorizadas pelo perfil.
El‑Kassaby explicou que as sugestões foram criadas para facilitar a obtenção de detalhes sobre o conteúdo de uma publicação, usando apenas dados já disponíveis ao usuário. No caso de Robins, a IA utilizou vídeos anteriores nos quais ela mesma citava os nomes das filhas.
Impactos e contexto mais amplo
Este episódio chega em um momento de crescente escrutínio sobre as funcionalidades de IA nas redes sociais. Em julho de 2024, a Meta também suspendeu uma ferramenta de criação de deepfakes que permitia gerar imagens usando a aparência de outros usuários do Instagram.
Ambas as situações ressaltam as preocupações com privacidade e uso indevido de dados pessoais. Usuários e reguladores têm exigido maior transparência e controles mais rígidos sobre como algoritmos coletam e combinam informações.
Especialistas apontam que, embora a IA ofereça conveniência, ela pode inadvertidamente revelar detalhes sensíveis quando combina fontes distintas. A Meta, ao ajustar o assistente, busca evitar novos incidentes e reconquistar a confiança dos usuários.
- Desativação de sugestões invasivas
- Revisão de políticas de acesso a dados
- Implementação de auditorias internas regulares
- Comunicação proativa com a comunidade
Além das mudanças técnicas, a empresa prometeu melhorar a comunicação com os usuários, oferecendo guias claros sobre como a IA utiliza informações de perfil. A Meta também anunciou que ampliará a equipe de revisão de conteúdo para monitorar possíveis abusos.
Para os usuários, a recomendação é revisar as configurações de privacidade, limitar o acesso de aplicativos a dados pessoais e estar atento a sugestões de IA que pareçam excessivamente detalhadas.
Em síntese, a correção da Meta demonstra um esforço para equilibrar inovação tecnológica e respeito à privacidade, embora ainda haja desafios a serem superados.
