Em 2024, empresas brasileiras têm ampliado o uso de inteligência artificial nos canais de suporte ao consumidor, especialmente em grandes centros como São Paulo. Quando o algoritmo comete um erro, surge a dúvida sobre quem deve arcar com os prejuízos: a companhia que oferece o serviço ou o desenvolvedor da tecnologia.
O papel da empresa na cadeia de responsabilidade
De acordo com especialistas, a responsabilidade acompanha o controle exercido sobre a ferramenta. Se a organização define as regras, limites de atuação e integra a IA aos seus processos internos, ela permanece responsável pelos resultados produzidos.
Isso significa que, ao delegar a tomada de decisão a um agente virtual, a empresa deve garantir que o histórico de dados, as políticas de devolução e os parâmetros de risco estejam bem configurados.
Quando um erro acontece – por exemplo, a concessão indevida de um reembolso – a empresa pode rastrear a origem da informação, identificar o ponto de falha e corrigir a causa de forma transparente.
- Definir políticas claras de uso da IA;
- Manter registros de decisões automatizadas;
- Estabelecer auditorias regulares para validar resultados;
- Treinar equipes humanas para intervir quando necessário.
Como a Zendesk encara a questão
Shana Simmons, diretora jurídica da Zendesk, reforça que a empresa vê a IA como um “humano no leme”, ou seja, a tecnologia opera sob supervisão humana direta. Ela afirma que a autonomia dos agentes de IA é limitada pelos limites orçamentários e pelas diretrizes estabelecidas pelos clientes.
Na prática, a Zendesk incorpora mecanismos que permitem ao sistema apontar exatamente onde ocorreu o erro, algo que nem sempre é possível em processos totalmente manuais.
A integração de equipes jurídicas, de produto e de privacidade desde a fase de concepção garante que a transparência e o controle estejam embutidos na solução, evitando surpresas ao lançar o produto final.
Além disso, a empresa tem usado IA para otimizar tarefas internas, como a revisão de contratos, reduzindo custos com escritórios externos e trazendo a atividade para dentro da organização.
- IA para análise de documentos legais;
- Monitoramento de compliance em tempo real;
- Feedback contínuo entre desenvolvedores e usuários;
- Atualizações de políticas baseadas em casos reais.
Desafios e perspectivas para o futuro
Embora a tecnologia traga eficiência, ainda há lacunas importantes, sobretudo nos usos de alto risco. A dependência excessiva pode enfraquecer o pensamento crítico, como alerta Simmons ao refletir sobre o impacto nas próximas gerações.
Ela destaca que a substituição total de profissionais por IA ainda não é uma realidade desejável; ao contrário, a combinação de empatia humana e capacidade analítica da máquina pode gerar melhores resultados.
Para preservar a conexão humana, é essencial que as empresas mantenham canais de contato direto com atendentes reais, permitindo que o cliente escolha entre o agente automatizado e o humano quando necessário.
Essa abordagem híbrida reduz a frustração do usuário, aumenta a confiança no serviço e cria um ambiente onde a tecnologia complementa, e não substitui, a atuação humana.
- Implementar “human‑in‑the‑loop” em processos críticos;
- Estabelecer limites de autonomia para a IA;
- Investir em treinamento contínuo de equipes;
- Monitorar indicadores de satisfação e erro em tempo real.
Em resumo, a responsabilidade legal por falhas de IA recai sobre a empresa que a utiliza, desde que mantenha controle, transparência e mecanismos de correção. A parceria entre tecnologia avançada e supervisão humana é o caminho mais seguro para garantir direitos do consumidor e evitar prejuízos inesperados.
