A NVIDIA Open Agent Safety Platform representa um marco na evolução da segurança de agentes de inteligência artificial, oferecendo uma arquitetura aberta e personalizável que abrange desde a camada de software até o hardware e os sistemas de robótica que executam tarefas no mundo físico. À medida que os agentes de IA assumem funções cada vez mais críticas — desde automação de processos empresariais até controle de veículos autônomos e infraestrutura de energia — a necessidade de garantir que eles operem dentro de limites bem definidos se torna imperativa. Esta plataforma foi concebida exatamente para atender a esse desafio, proporcionando governança full‑stack, ou seja, controle simultâneo sobre o código que roda o agente, os processadores que o alimentam e os dispositivos que colocam suas decisões em ação.
Visão geral da plataforma e seus objetivos estratégicos
A NVIDIA lançou a Open Agent Safety Platform com o objetivo explícito de criar um ecossistema aberto onde empresas, pesquisadores e órgãos públicos possam compartilhar boas práticas, alinhar metodologias de avaliação e fomentar a cooperação internacional em torno da segurança de agentes de IA. Jensen Huang, fundador e CEO da NVIDIA, enfatizou que o potencial extraordinário da IA para a sociedade só será plenamente realizado se resolvermos o problema da segurança. Dessa forma, a plataforma não é apenas um conjunto de ferramentas técnicas, mas também um convite para que a comunidade global contribua com pesquisas, habilidades e projetos que elevem o padrão de segurança em todo o mundo.
O conceito central por trás da plataforma é a ideia de que a segurança não pode ficar restrita ao modelo de IA ou ao seu harness de desenvolvimento; ela deve ser imposta em camadas inferiores, onde o agente realmente interage com o hardware e o ambiente físico. Isso significa que, mesmo que um agente consiga burlar verificações de segurança no nível da aplicação, haverá mecanismos de hardware e de runtime que o impedirão de causar danos. Essa abordagem em camadas múltiplas é o que diferencia a NVIDIA Open Agent Safety Platform de soluções tradicionais que se concentram apenas em auditorias de código ou em monitoramento de logs.
OpenShell: o runtime seguro que estabelece limites para os agentes
Um dos pilares da plataforma é o NVIDIA OpenShell™, um software de runtime seguro que cria fronteiras explícitas para os agentes que são executados em CPUs de uso geral. À medida que os agentes assumem mais responsabilidades em sistemas diversos — desde servidores de nuvem até dispositivos de borda — as empresas precisam de uma fronteira aplicável que esteja fora do próprio modelo e do harness do agente. O OpenShell fornece exatamente isso: um ambiente de execução que controla como os agentes autônomos realizam tarefas em modelos abertos e fechados, com sobrecarga mínima de desempenho.
O OpenShell foi projetado para rodar de forma otimizada na NVIDIA Vera, a primeira CPU projetada especificamente para cargas de trabalho de agente de IA. Essa sinergia entre hardware e software permite que os agentes operem com segurança máxima enquanto mantêm latência baixa e throughput alto, atendendo às demandas de aplicações em tempo real. Além disso, como o OpenShell é disponibilizado como código aberto, ele pode ser estendido para funcionar em plataformas de computação de terceiros, incluindo aquelas baseadas em arquiteturas Arm e Intel, ampliando seu alcance e facilitando a adoção em ambientes heterogêneos.
Para ilustrar seu funcionamento, imagine um agente de IA responsável por otimizar o consumo de energia em um data center. O OpenShell garante que, mesmo que o agente tente modificar parâmetros de configuração que estejam fora de sua política autorizada, o runtime impedirá a execução da chamada ao sistema, gerando um evento de auditoria e, se necessário, encerrando o agente de forma controlada. Esse nível de granularidade é possível porque o OpenShell interage diretamente com chamadas de sistema e com a camada de privilégios do sistema operacional, aplicando políticas de zero‑trust que são verificadas em tempo real.
Sentry: o watchdog de banda externa que protege a camada de silício
Complementando o OpenShell, a plataforma inclui o NVIDIA Sentry, um watchdog de banda externa que roda nas DPUs NVIDIA BlueField®‑4. O Sentry oferece aplicação de políticas de segurança diretamente no silício, o que significa que ele pode detectar e responder a tentativas de fuga de fronteira em microssegundos, muito mais rápido do que qualquer solução baseada apenas em software.
O Sentry opera de forma independente do agente monitorado, lendo telemetria de entrada e saída por meio de uma interface out‑of‑band que é invisível tanto para o agente quanto para potenciais atacantes. Essa arquitetura de confiança isolada garante que, mesmo que um agente tenha sido comprometido no nível de software, ele não consiga adulterar ou desativar o Sentry. Quando o Sentry identifica que um agente está tentando acessar recursos fora de sua zona de confiança — seja tentando ler arquivos sensíveis, invocar APIs não autorizadas ou se comunicar com endpoints externos não permitidos —, ele imediatamente coloca o agente em quarentena e interrompe sua execução.
O Sentry se beneficia da pilha de software NVIDIA DOCA™, que oferece capacidades programáveis para inspeção de pacotes, geração de telemetria atestada, verificação de identidade do agente e aplicação de políticas de acesso granulado baseado em zero‑trust. Essa combinação de hardware dedicado e software flexível permite que as organizações definam regras muito específicas — por exemplo, permitir que um agente de leitura de logs acesse apenas determinados diretórios de arquivos, enquanto bloqueia qualquer tentativa de escrita ou de chamada a serviços de rede externos.
Colaboração da indústria: parceiros que fortalecem a pilha de segurança
A NVIDIA não desenvolveu a Open Agent Safety Platform isoladamente; ela é fruto de uma cooperação ampla com mais de 100 organizações líderes em diversos setores. Entre os colaboradores destacam‑se a Anthropic, que integrou seus Claude Managed Agents ao OpenShell e ao BlueField para proporcionar uma visão clara do comportamento de cada agente, e a SpaceXAI, que utiliza a plataforma para proteger agentes de codificação como Cursor e modelos Grok.
A Scale AI, por sua vez, está incorporando os referenciais da plataforma em sua infraestrutura de agente de IA GenAI Portfolio, asseguramento de isolamento, aplicação de políticas e auditoria desde o início do desenvolvimento. Já a Salesforce integrou o OpenShell ao Slack, permitindo que equipes visualizem atividades de agentes, eventos de auditoria e aprovem ou rejeitem solicitações de permissões adicionais diretamente no ambiente de colaboração que já utilizam diariamente.
Outros exemplos incluem a SAP, que embarcou o OpenShell no runtime Joule Studio da SAP Business AI Platform, unindo supervisão de negócios com segurança de runtime, e a Red Hat, que está executando o OpenShell e o DOCA em seu AI Factory com NVIDIA, oferecendo uma solução empresarial grade para construção, implantação e gerenciamento de IA em escala em ambientes de nuvem híbrida.
A lista de parceiros se estende a empresas de semicondutores (Arm, Intel, Cisco, Dell Technologies, HPE, Lenovo, Microsoft, Oracle Cloud Infrastructure, Supermicro), fornecedores de infraestrutura (Canonical, SUSE, Red Hat), líderes de robótica (Figure, Gecko Robotics, Skild AI), instituições financeiras (Citi, JPMorganChase), provedores de energia (Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy, Worley) e muitas outras organizações de consultoria e tecnologia. Essa diversidade demonstra a abrangência da plataforma e sua relevância para praticamente qualquer setor que dependa de agentes autônomos.
Casos de uso específicos em setores críticos
No segmento de serviços financeiros, agentes de IA são empregados para detecção de fraudes em tempo real, otimização de portfólios e atendimento ao cliente via chatbots sofisticados. Com a Open Agent Safety Platform, os bancos podem garantir que esses agentes nunca ultrapassem limites de acesso a dados de clientes, nem enviem ordens de transação não autorizadas. O Sentry, por exemplo, pode bloquear uma tentativa de um agente de fraud detection de acessar o sistema de liquidação interna, gerando um alerta imediato para a equipe de segurança.
Na indústria energética, agentes que controlam redes inteligentes (smart grids) precisam equilibrar oferta e demanda de eletricidade enquanto protegem a infraestrutura contra ataques cibernéticos. A plataforma permite que esses agentes operem dentro de envelopes de poder bem definidos, impedindo que comandos de desligamento ou de reconfiguração sejam executados sem a devida autorização. O OpenShell, rodando na Vera, garante que o consumo de CPU do agente permaneça previsível, evitando negação de serviço acidental.
Na robótica autônoma, agentes que dirigem manipuladores industriais ou veículos de entrega devem respeitar limites de movimento e de força para evitar danos a equipamentos ou a pessoas. O Sentry, monitorando a DPU BlueField‑4, pode detectar quando um agente tenta enviar um sinal de atuador que excede o torque máximo permitido e cortar o sinal antes que ele chegue ao hardware, proporcionando uma camada de segurança física que complementa as limitações de software.
Esses exemplos mostram como a plataforma não apenas protege contra falhas de lógica do agente, mas também oferece mecanismos de resposta rápida que são essenciais em ambientes onde o tempo de reação pode significar a diferença entre operação normal e incidente grave.
Disponibilidade, recursos para desenvolvedores e o ecossistema aberto
Os componentes de software da NVIDIA Open Agent Safety Platform, incluindo o OpenShell e diversos skillsets (conjuntos de habilidades pré‑construídos para agentes), estão disponíveis através da página de recursos para desenvolvedores da NVIDIA e no repositório oficial no GitHub. Essa abordagem de código aberto facilita a inspeção, a modificação e a integração por parte de desenvolvedores que desejam adaptar a plataforma às suas necessidades específicas.
Além disso, a plataforma apoia a missão do Open Secure AI Alliance, uma iniciativa lançada pela NVIDIA juntamente com mais de 120 organizações líderes e governada pela Linux Foundation. O objetivo da aliança é fortalecer a segurança de agentes de IA por meio de pesquisa aberta, compartilhamento de habilidades e ferramentas, e projetos como o Shared AI Findings Exchange (SAFE), que permite que as organizações troquem descobertas de vulnerabilidades e melhores práticas de forma segura e auditável.
O ecossistema também inclui suporte para sistemas operacionais amplamente utilizados, como as distribuições Linux da Canonical, SUSE e Red Hat, que já estão integrando o OpenShell e o DOCA em suas ofertas de IA empresarial. Isso significa que empresas que já utilizam essas distribuições podem adotar a plataforma sem precisar reconstruir suas pilhas de infraestrutura, reduzindo a barreira de entrada e acelerando o tempo de valor.
Conclusão: rumo a um futuro de agentes de IA confiáveis e seguros
A NVIDIA Open Agent Safety Platform estabelece um novo padrão para a segurança de agentes de inteligência artificial, combinando controle full‑stack, hardware dedicado e uma abordagem de código aberto que incentiva a colaboração global. À medida que os agentes de IA se tornam mais presentes em processos críticos de negócios, infraestrutura e vida cotidiana, a capacidade de garantir que eles atuem dentro de limites bem definidos deixa de ser um diferencial e passa a ser um requisito fundamental.
Ao adotar essa plataforma, organizações não apenas mitigam riscos associados a comportamentos inesperados ou maliciosos de agentes, mas também constroem confiança com clientes, reguladores e parceiros, demonstrando um compromisso serio com a ética e a segurança da IA. O futuro da inteligência artificial autônoma dependerá, em grande parte, de quão bem conseguimos equilibrar inovação com proteção — e a Open Agent Safety Platform da NVIDIA oferece um caminho claro e robusto para alcançar esse equilíbrio.
Fonte: Nvidianews
Fonte: neuraartificial.com.br
Gerar Post/Story