A Gecko Robotics faz parceria com a NVIDIA para integrar segurança e controle de agentes de IA

A Gecko Robotics está aproveitando a mais recente camada de segurança de agentes de IA da NVIDIA em sua frota de robôs de inspeção. Fonte: Gecko Robotics

A NVIDIA Corp. apresentou hoje sua Plataforma de Segurança de Agentes Abertos (Open Agent Safety Platform), que inclui o software de código aberto OpenShell e o design de referência do sistema Sentry. Essas ferramentas foram projetadas para aprimorar a governança e o controle em todas as camadas de hardware, computação e software para robôs que operam agentes de IA. A Gecko Robotics Inc. está entre as mais de 100 organizações que colaboram com a tecnologia da NVIDIA.

Na sequência de incidentes recentes nos quais agentes de IA da OpenAI contornaram os controles em nível de aplicativo para atacar o Hugging Face, desenvolvedores dos setores de IA e robótica intensificaram os esforços para estabelecer rastreabilidade, responsabilidade e medidas de segurança preventiva.

“À medida que continuamos a descobrir a fronteira das capacidades de IA, devemos acelerar as descobertas na fronteira da segurança de IA”, disse Jensen Huang, CEO da NVIDIA. “Segurança e proteção exigem engenhagem em toda a pilha tecnológica. A Plataforma de Segurança de Agentes Abertos da NVIDIA reúne indústria, pesquisadores e organizações do setor público para compartilhar as melhores práticas, alinhar métodos de resolução e fomentar a cooperação internacional.”

Nota do editor: A IA Física é um tópico-chave na trilha temática da RoboBusiness 2026, que ocorrerá em 20 e 21 de outubro em Santa Clara, Califórnia. Registre-se agora para participar.

OpenShell e Sentry da NVIDIA aplicam políticas

O OpenShell fornece um limite de execução seguro que rastreia todas as ações e aplica políticas conforme os agentes de IA operam nos processadores Vera da NVIDIA. De acordo com a NVIDIA, ele oferece governança determinística para execução de agentes, acesso e roteamento de inferência.

Como software de código aberto, o OpenShell pode ser estendido para funcionar com plataformas de computação de terceiros, incluindo as da Arm e da Intel, acrescentou a empresa sediada em Santa Clara, Califórnia.

O Sentry da NVIDIA adiciona um watchdog fora de banda (out-of-band) que executa nas unidades de processamento de dados BlueField-4 (DPUs) para monitorar continuamente o comportamento dos agentes. A empresa afirmou que o Sentry monitora os resultados em relação às políticas e pode isolar agentes que tentam violar os limites em milissegundos.

“Para que a economia de agentes cresça, precisamos de uma base confiável em todo o silício e software”, disse Justin Boitano, vice-presidente de IA empresarial da NVIDIA, durante uma coletiva à imprensa. “Queremos envolver todos para avançar uma nova camada de segurança de agentes.”

“O domínio de confiança independente é semelhante ao funcionamento dos carros autônomos”, explicou ele. “O sistema principal executa a percepção, e uma ilha de segurança garante que o sistema geral falhe de maneira segura. Os mesmos princípios se aplicam aos sistemas de IA de fronteira.”

O OpenShell pode descarregar a segurança para o silício ou para as DPUs conforme necessário, enquanto o Sentry monitora os rastros de raciocínio. Um Provedor de Políticas (Policy Prover) dentro da Plataforma de Segurança de Agentes Abertos da NVIDIA é determinístico e opera em alta velocidade.

“Se você escrever uma política que diga que um agente não pode ler código do Github, um agente pode gerar subagentes separados para lê-lo e depois postar essas informações, com frotas anulando políticas globais”, disse Boitano. “O Provedor de Políticas valida a árvore de decisão mestre, analisando o acesso combinado a arquivos e redes para encontrar exfiltração não intencional. Ele deriva da pesquisa do S3 da AWS para criar políticas verificáveis.”

“Vemos o comportamento de longo prazo dos agentes como um problema diferente do sandboxing”, acrescentou ele. “O OpenShell está projetando a intenção de uma política na infraestrutura.”

A Plataforma de Segurança de Agentes Abertos da NVIDIA inclui o OpenShell e o Sentry. Fonte: NVIDIA

A Gecko dá controle de agente de IA sobre o movimento do robô

Embora os incidentes de segurança recentes tenham ocorrido inteiramente dentro do software, a Gecko Robotics observou que eles revelaram uma vulnerabilidade potencial que afeta todos os agentes de IA, incluindo robôs. A empresa utilizou o OpenShell da NVIDIA para explorar como limites aplicáveis podem manter os robôs alimentados por IA operando dentro das permissões definidas pelos seres humanos. A Gecko visa estabelecer as salvaguardas necessárias para implantar maior autonomia de forma responsável.

“Como disse Jensen, a segurança é um problema de engenharia, não legal”, disse Jake Loosararian, cofundador e CEO da Gecko Robotics. “A ideia de que perder o controle da IA é inevitável é uma desculpa perigosa para a inação. Temos a responsabilidade de construir salvaguardas que mantenham a IA dentro dos limites estabelecidos pelos seres humanos.”

“O que a NVIDIA construiu com sua Plataforma de Segurança de Agentes Abertos, e o que a Gecko está testando para robôs, é confrontar o risco antes que ele alcance o mundo físico e ajudar a garantir que maior autonomia não venha às custas do controle humano”, acrescentou ele.

A Gecko utiliza robôs capazes de escalar, rastejar, voar e nadar em infraestruturas críticas para empresas de energia da Fortune 100, bem como para a Força Aérea dos Estados Unidos e a Marinha dos Estados Unidos. Seus sistemas inspecionam tudo, desde tanques de combustível até submarinos nucleares e porta-aviões.

Ariel Weingarten, diretora de engenharia da Gecko, disse ao The Robot Report que seus agentes têm acesso aos mesmos comandos do sistema que seus operadores de campo, incluindo:

Iniciar e parar a coleta de dadosControles de movimento do robô e planejamento de caminhoLevantar e abaixar cargas úteis

Eles não lidam com o ciclo de vida dos dados ou o upload para a nuvem de governança da Gecko, disse ele.

Enquanto a pesquisa sobre segurança de agentes de IA continua, a Gecko, sediada em Pittsburgh, está usando o OpenShell da NVIDIA para criar limites de execução seguros que os desenvolvedores podem usar para definir ações e restrições permitidas.

Robô Komodo inclui camada de aplicação

O Komodo da Gecko, um robô implantado com a Marinha dos Estados Unidos, coloca uma camada de aplicação independente entre o agente de IA e o hardware. “O desenvolvedor decide o que o Komodo deve fazer; o OpenShell garante que ele permaneça dentro das regras”, disse a empresa.

“A IA Física e a robótica representam a próxima fronteira da tecnologia”, afirmou a Gecko Robotics. “Mover a inteligência do software para as máquinas também traz maior responsabilidade. A segurança em nível de modelo não é suficiente por si só.”

Como a Gecko já segue controles de segurança bem definidos para ativos militares dos EUA, implementá-los no OpenShell foi menos um desafio, disse Weingarten.

“Ao construir controles aplicáveis em toda a pilha tecnológica, a NVIDIA e a Gecko estão ajudando a garantir que as salvaguardas que regem a IA Física avancem tão rapidamente quanto a própria tecnologia”, acrescentou a empresa.

A plataforma de IA Cantilever da Gecko transforma os grandes conjuntos de dados coletados por seus robôs em informações acionáveis. A empresa afirmou que seus sistemas permitem decisões baseadas em dados e evidências sobre estruturas, entregando um retorno sobre o investimento (ROI) para os clientes.

Como o OpenShell opera dentro do limite de um sistema de campo Komodo, ele não interage diretamente com o Cantilever, observou Weingarten. A Gecko pretende usar a camada de segurança da NVIDIA tanto para sistemas de defesa quanto militares no futuro, disse ele. O controle determinístico também poderia beneficiar operações em nível de enxame.

“Certamente é útil ter invariantes no nível de unidades individuais que possam ser usados para raciocinar sobre a dinâmica de enxames/frotas”, disse Weingarten. “Estamos animados para evoluir à medida que passamos do controle de sistemas individuais para a operação assistida por agentes de todo um deployment.”