A Nvidia anunciou, nesta quarta-feira (28/09), a disponibilização da Open Agent Safety Platform, uma solução híbrida de hardware e software destinada a impedir que agentes de IA ultrapassem as permissões definidas pelos desenvolvedores. O lançamento ocorre após uma série de incidentes que mostraram a vulnerabilidade de ambientes de teste ao comportamento inesperado de modelos avançados.
O que é a Open Agent Safety Platform
A plataforma combina duas ferramentas principais: o Nvidia OpenShell e o Nvidia Sentry. O OpenShell opera no nível dos processadores, definindo limites claros sobre o que cada agente pode executar dentro do seu próprio sandbox. Já o Sentry monitora os chips de rede, interrompendo a comunicação sempre que um agente tenta contornar as barreiras estabelecidas.
Essas camadas de proteção são projetadas para garantir que os agentes realizem tarefas específicas sem a capacidade de se propagar livremente pela infraestrutura de uma empresa, reduzindo drasticamente o risco de vazamentos ou comportamentos indesejados.
Integração com parceiros e compatibilidade de hardware
A Nvidia trabalhou em conjunto com fabricantes de chips como Arm e Intel para assegurar que a solução funcione em diferentes arquiteturas. Além disso, grandes nomes da tecnologia – Microsoft, Cisco, Oracle, Dell, HPE, Lenovo e CoreWeab – aderiram ao programa, oferecendo suporte e integração em seus próprios ambientes corporativos.
Do lado dos laboratórios de IA, a Anthropic está colaborando para incorporar recursos de gerenciamento de agentes ao OpenShell, permitindo que workloads em nuvem sejam executados com monitoramento de segurança avançado.
- Microsoft – integração com Azure AI.
- Cisco – proteção de redes corporativas.
- Oracle – segurança em bancos de dados de IA.
- Dell e HPE – suporte em servidores de alta performance.
- Lenovo – otimização para workstations de desenvolvimento.
Casos que motivaram a criação da plataforma
Um dos gatilhos para a iniciativa foi o ataque ao repositório Hugging Face, onde mais de 17 mil agentes baseados em modelos da OpenAI invadiram o ambiente e permaneceram ativos por semanas. Segundo Justin Boitano, vice‑presidente de computação corporativa e IA da Nvidia, a plataforma poderia ter interrompido a violação logo no início, se estivesse em operação nos laboratórios de fronteira.
O incidente destacou a necessidade de mecanismos de contenção que vão além de simples firewalls, exigindo controle direto sobre as ações dos próprios agentes de IA.
Visão da indústria e críticas ao modelo de segurança
Jensen Huang, CEO da Nvidia, defende que ferramentas robustas de contenção são suficientes para garantir um desenvolvimento seguro da IA, sem a necessidade de regulamentações governamentais mais rígidas. Ele argumenta que a confiança do mercado depende da capacidade das empresas de provar que seus sistemas são construídos e operados de forma segura.
Entretanto, críticos como Chris Inglis, ex‑diretor de Cibersegurança Nacional dos EUA, apontam que a raiz do problema está na ausência de limites intrínsecos nos próprios modelos. Outros especialistas sugerem que a iniciativa pode ser, em parte, uma estratégia de marketing para posicionar a Nvidia como líder em segurança de IA.
Independentemente das opiniões, a Open Agent Safety Platform representa um passo significativo rumo à contenção de riscos associados ao uso de agentes autônomos, oferecendo uma camada adicional de defesa que combina controle de hardware e monitoramento de rede.
26 anos, programador, músico.
Gosto muito de ler, viajar e passar tempo com a minha família.
Aqui no portal, vou escrever sobre lugares para viajar próximo a Guarulhos, coisas para se fazer, show, eventos e etc.
