Hogar
Gecko Robotics se asocia con NVIDIA para integrar la seguridad y el control de agentes de IA
Gecko Robotics está aprovechando la última capa de seguridad de IA agéntica de NVIDIA dentro de su flota de robots de inspección. Fuente: Gecko Robotics
NVIDIA Corp. presentó hoy su Plataforma de Seguridad de Agentes Abiertos (Open Agent Safety Platform), que incluye el software de código abierto OpenShell y el diseño de referencia Sentry. Estas herramientas están diseñadas para mejorar la gobernanza y el control en las capas de hardware, computación y software de los robots que operan agentes de IA. Gecko Robotics Inc. es una de las más de 100 organizaciones que colaboran con la tecnología de NVIDIA.
Tro recientes incidentes en los que agentes de IA de OpenAI eludieron los controles a nivel de aplicación para atacar a Hugging Face, los desarrolladores del sector de la IA y la robótica han intensificado sus esfuerzos por establecer trazabilidad, responsabilidad y medidas de seguridad preventiva.
«A medida que continuamos descubriendo la frontera de las capacidades de IA, debemos acelerar el descubrimiento en la frontera de la seguridad de la IA», dijo Jensen Huang, director ejecutivo de NVIDIA. «La seguridad y la protección requieren una ingeniería de pila completa. La Plataforma de Seguridad de Agentes Abiertos de NVIDIA reúne a la industria, investigadores y organizaciones del sector público para compartir las mejores prácticas, alinearse en métodos de resolución y fomentar la cooperación internacional».
Nota del editor: La IA física es un tema clave en RoboBusiness 2026, que se celebrará los días 20 y 21 de octubre en Santa Clara, California. Regístrese ahora para asistir.
OpenShell y Sentry de NVIDIA aplican políticas
OpenShell proporciona un límite de ejecución seguro que rastrea todas las acciones y aplica políticas mientras los agentes de IA operan en las CPUs Vera de NVIDIA. Según NVIDIA, ofrece una gobernanza determinista para la ejecución de agentes, el acceso y el enrutamiento de inferencias.
Como software de código abierto, OpenShell puede ampliarse para funcionar con plataformas de computación de terceros, incluidas las de Arm e Intel, añadió la empresa con sede en Santa Clara, California.
NVIDIA Sentry añade un observador fuera de banda que se ejecuta en unidades de procesamiento de datos BlueField-4 (DPU) para supervisar continuamente el comportamiento de los agentes. La empresa declaró que Sentry monitorea los resultados en función de las políticas y puede cuarentenar a los agentes que intenten violar los límites en milisegundos.
«Para que la economía de los agentes crezca, necesitamos una base de confianza en todo el silicio y el software», dijo Justin Boitano, vicepresidente de IA empresarial de NVIDIA, durante una rueda de prensa. «Queremos involucrar a todos para avanzar en una nueva capa de seguridad de los agentes».
«El dominio de confianza independiente es como el funcionamiento de los coches autónomos», explicó. «El sistema principal ejecuta la percepción, y una isla de seguridad garantiza que el sistema general falle de manera segura. Los mismos principios se aplican a los sistemas de IA de vanguardia».
OpenShell puede descargar la seguridad en el silicio o en las DPU según sea necesario, mientras que Sentry supervisa los rastros de razonamiento. Un Proveedor de Políticas dentro de la Plataforma de Seguridad de Agentes Abiertos de NVIDIA es determinista y opera a alta velocidad.
«Si escribe una política que dice que un agente no puede leer código de Github, un agente podría generar subagentes separados para leerlo y luego publicar esa información, con flotas que anulan las políticas globales», dijo Boitano. «El Proveedor de Políticas valida el árbol de decisiones principal, analizando el acceso combinado a archivos y redes para encontrar una exfiltración no intencionada. Proviene de la investigación de S3 de AWS para crear políticas verificables».
«Vemos que el comportamiento de los agentes a largo plazo es un problema diferente al del aislamiento en sandbox», añadió. «OpenShell proyecta la intención de una política en la infraestructura».
La Plataforma de Seguridad de Agentes Abiertos de NVIDIA incluye OpenShell y Sentry. Fuente: NVIDIA
Gecko da control a los agentes de IA sobre el movimiento de los robots
Aunque los recientes incidentes de seguridad ocurrieron completamente dentro del software, Gecko Robotics señaló que revelaron una vulnerabilidad potencial que afecta a todos los agentes de IA, incluidos los robots. La empresa ha utilizado NVIDIA OpenShell para explorar cómo los límites aplicables pueden mantener a los robots impulsados por IA operando dentro de los permisos definidos por los humanos. Gecko tiene como objetivo establecer las salvaguardas necesarias para desplegar una mayor autonomía de manera responsable.
«Como dice Jensen, la seguridad es un problema de ingeniería, no legal», dijo Jake Loosararian, cofundador y director ejecutivo de Gecko Robotics. «La idea de que perder el control de la IA es inevitable es una excusa peligrosa para la inacción. Tenemos la responsabilidad de construir salvaguardas que mantengan a la IA dentro de los límites establecidos por los humanos».
«Lo que NVIDIA ha construido con su Plataforma de Seguridad de Agentes Abiertos, y lo que Gecko está probando para robots, es confrontar el riesgo antes de que llegue al mundo físico y ayudar a garantizar que una mayor autonomía no venga a expensas del control humano», añadió.
Gecko utiliza robots capaces de escalar, arrastrarse, volar y nadar en infraestructuras críticas para empresas de energía Fortune 100, así como para la Fuerza Aérea de EE. UU. y la Armada de EE. UU. Sus sistemas inspeccionan todo, desde tanques de combustible hasta submarinos nucleares y portaaviones.
Ariel Weingarten, director de ingeniería en Gecko, dijo a The Robot Report que sus agentes tienen acceso a los mismos comandos del sistema que sus operadores de campo, incluyendo:
Inicio y detención de la recopilación de datosControles de movimiento del robot y planificación de rutasLevantamiento y bajada de cargas
No gestionan el ciclo de vida de los datos ni la carga a la nube de gobernanza de Gecko, dijo.
Mientras continúa la investigación sobre la seguridad de los agentes de IA, Gecko, con sede en Pittsburgh, está utilizando NVIDIA OpenShell para crear límites de ejecución seguros que los desarrolladores puedan utilizar para definir acciones y restricciones permitidas.
El robot Komodo incluye una capa de aplicación
Komodo de Gecko, un robot desplegado con la Armada de EE. UU., coloca una capa de aplicación independiente entre el agente de IA y el hardware. «El desarrollador decide qué debe hacer Komodo; OpenShell asegura que se mantenga dentro de las reglas», dijo la empresa.
«La IA física y la robótica representan la próxima frontera de la tecnología», afirmó Gecko Robotics. «Mover la inteligencia del software a las máquinas también conlleva una mayor responsabilidad. La seguridad a nivel de modelo por sí sola no es suficiente».
Dado que Gecko ya sigue controles de seguridad bien definidos para activos militares de EE. UU., implementar estos en OpenShell fue menos un desafío, dijo Weingarten.
«Al construir controles aplicables en toda la pila tecnológica, NVIDIA y Gecko están ayudando a garantizar que las salvaguardas que rigen la IA física avancen tan rápidamente como la tecnología misma», añadió la empresa.
La plataforma impulsada por IA Cantilever de Gecko transforma los grandes conjuntos de datos recopilados por sus robots en información procesable. La empresa afirmó que sus sistemas permiten decisiones basadas en datos y evidencias sobre estructuras, ofreciendo un retorno de la inversión (ROI) para los clientes.
Dado que OpenShell opera dentro del límite de un sistema de campo Komodo, no interactúa directamente con Cantilever, señaló Weingarten. Gecko tiene la intención de utilizar la capa de seguridad de NVIDIA tanto para sistemas de defensa como militares en el futuro, dijo. El control determinista también podría beneficiar a las operaciones a nivel de enjambre.
«Ciertamente es útil tener invariantes a nivel de unidad individual que puedan utilizarse para razonar sobre la dinámica del enjambre/flota», dijo Weingarten. «Estamos entusiasmados por evolucionar a medida que pasamos del control de sistemas individuales a la operación asistida por agentes de todo un despliegue».
Artículo relacionado
El acuerdo de Fortinet con Virtue AI refuerza la seguridad de Agentic AI
Ken Xie, fundador y director ejecutivo de Fortinet | Crédito: FortinetFortinet adquiere Virtue AI para reforzar la protección en tiempo de ejecución y la validación automatizada de los sistemas de IA,
El acuerdo de Nvidia con China para el H200 sobrevive a la cumbre Trump-Xi, pero no como se esperaba
El presidente Trump viajó a Pekín con Jensen Huang uniéndose a la delegación en el último momento, partiendo dos días después con declaraciones vagas sobre posibles desarrollos en la exportación de chips. No se concretó ningún acuerdo. Desde que Trum
Nvidia obtendrá el 25% de los ingresos del próximo año de laboratorios financiados
Nvidia ha invertido casi 50 000 millones de dólares en laboratorios de IA para la compra de sus chips, asegurando compromisos por un total superior a 500 000 millones de dólares.El 26 de agosto, la directora financiera Colette Kress informó a los ana
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Gecko Robotics está aprovechando la última capa de seguridad de IA agéntica de NVIDIA dentro de su flota de robots de inspección. Fuente: Gecko Robotics
NVIDIA Corp. presentó hoy su Plataforma de Seguridad de Agentes Abiertos (Open Agent Safety Platform), que incluye el software de código abierto OpenShell y el diseño de referencia Sentry. Estas herramientas están diseñadas para mejorar la gobernanza y el control en las capas de hardware, computación y software de los robots que operan agentes de IA. Gecko Robotics Inc. es una de las más de 100 organizaciones que colaboran con la tecnología de NVIDIA.
Tro recientes incidentes en los que agentes de IA de OpenAI eludieron los controles a nivel de aplicación para atacar a Hugging Face, los desarrolladores del sector de la IA y la robótica han intensificado sus esfuerzos por establecer trazabilidad, responsabilidad y medidas de seguridad preventiva.
«A medida que continuamos descubriendo la frontera de las capacidades de IA, debemos acelerar el descubrimiento en la frontera de la seguridad de la IA», dijo Jensen Huang, director ejecutivo de NVIDIA. «La seguridad y la protección requieren una ingeniería de pila completa. La Plataforma de Seguridad de Agentes Abiertos de NVIDIA reúne a la industria, investigadores y organizaciones del sector público para compartir las mejores prácticas, alinearse en métodos de resolución y fomentar la cooperación internacional».
Nota del editor: La IA física es un tema clave en RoboBusiness 2026, que se celebrará los días 20 y 21 de octubre en Santa Clara, California. Regístrese ahora para asistir.
OpenShell y Sentry de NVIDIA aplican políticas
OpenShell proporciona un límite de ejecución seguro que rastrea todas las acciones y aplica políticas mientras los agentes de IA operan en las CPUs Vera de NVIDIA. Según NVIDIA, ofrece una gobernanza determinista para la ejecución de agentes, el acceso y el enrutamiento de inferencias.
Como software de código abierto, OpenShell puede ampliarse para funcionar con plataformas de computación de terceros, incluidas las de Arm e Intel, añadió la empresa con sede en Santa Clara, California.
NVIDIA Sentry añade un observador fuera de banda que se ejecuta en unidades de procesamiento de datos BlueField-4 (DPU) para supervisar continuamente el comportamiento de los agentes. La empresa declaró que Sentry monitorea los resultados en función de las políticas y puede cuarentenar a los agentes que intenten violar los límites en milisegundos.
«Para que la economía de los agentes crezca, necesitamos una base de confianza en todo el silicio y el software», dijo Justin Boitano, vicepresidente de IA empresarial de NVIDIA, durante una rueda de prensa. «Queremos involucrar a todos para avanzar en una nueva capa de seguridad de los agentes».
«El dominio de confianza independiente es como el funcionamiento de los coches autónomos», explicó. «El sistema principal ejecuta la percepción, y una isla de seguridad garantiza que el sistema general falle de manera segura. Los mismos principios se aplican a los sistemas de IA de vanguardia».
OpenShell puede descargar la seguridad en el silicio o en las DPU según sea necesario, mientras que Sentry supervisa los rastros de razonamiento. Un Proveedor de Políticas dentro de la Plataforma de Seguridad de Agentes Abiertos de NVIDIA es determinista y opera a alta velocidad.
«Si escribe una política que dice que un agente no puede leer código de Github, un agente podría generar subagentes separados para leerlo y luego publicar esa información, con flotas que anulan las políticas globales», dijo Boitano. «El Proveedor de Políticas valida el árbol de decisiones principal, analizando el acceso combinado a archivos y redes para encontrar una exfiltración no intencionada. Proviene de la investigación de S3 de AWS para crear políticas verificables».
«Vemos que el comportamiento de los agentes a largo plazo es un problema diferente al del aislamiento en sandbox», añadió. «OpenShell proyecta la intención de una política en la infraestructura».
La Plataforma de Seguridad de Agentes Abiertos de NVIDIA incluye OpenShell y Sentry. Fuente: NVIDIA
Gecko da control a los agentes de IA sobre el movimiento de los robots
Aunque los recientes incidentes de seguridad ocurrieron completamente dentro del software, Gecko Robotics señaló que revelaron una vulnerabilidad potencial que afecta a todos los agentes de IA, incluidos los robots. La empresa ha utilizado NVIDIA OpenShell para explorar cómo los límites aplicables pueden mantener a los robots impulsados por IA operando dentro de los permisos definidos por los humanos. Gecko tiene como objetivo establecer las salvaguardas necesarias para desplegar una mayor autonomía de manera responsable.
«Como dice Jensen, la seguridad es un problema de ingeniería, no legal», dijo Jake Loosararian, cofundador y director ejecutivo de Gecko Robotics. «La idea de que perder el control de la IA es inevitable es una excusa peligrosa para la inacción. Tenemos la responsabilidad de construir salvaguardas que mantengan a la IA dentro de los límites establecidos por los humanos».
«Lo que NVIDIA ha construido con su Plataforma de Seguridad de Agentes Abiertos, y lo que Gecko está probando para robots, es confrontar el riesgo antes de que llegue al mundo físico y ayudar a garantizar que una mayor autonomía no venga a expensas del control humano», añadió.
Gecko utiliza robots capaces de escalar, arrastrarse, volar y nadar en infraestructuras críticas para empresas de energía Fortune 100, así como para la Fuerza Aérea de EE. UU. y la Armada de EE. UU. Sus sistemas inspeccionan todo, desde tanques de combustible hasta submarinos nucleares y portaaviones.
Ariel Weingarten, director de ingeniería en Gecko, dijo a The Robot Report que sus agentes tienen acceso a los mismos comandos del sistema que sus operadores de campo, incluyendo:
Inicio y detención de la recopilación de datosControles de movimiento del robot y planificación de rutasLevantamiento y bajada de cargas
No gestionan el ciclo de vida de los datos ni la carga a la nube de gobernanza de Gecko, dijo.
Mientras continúa la investigación sobre la seguridad de los agentes de IA, Gecko, con sede en Pittsburgh, está utilizando NVIDIA OpenShell para crear límites de ejecución seguros que los desarrolladores puedan utilizar para definir acciones y restricciones permitidas.
El robot Komodo incluye una capa de aplicación
Komodo de Gecko, un robot desplegado con la Armada de EE. UU., coloca una capa de aplicación independiente entre el agente de IA y el hardware. «El desarrollador decide qué debe hacer Komodo; OpenShell asegura que se mantenga dentro de las reglas», dijo la empresa.
«La IA física y la robótica representan la próxima frontera de la tecnología», afirmó Gecko Robotics. «Mover la inteligencia del software a las máquinas también conlleva una mayor responsabilidad. La seguridad a nivel de modelo por sí sola no es suficiente».
Dado que Gecko ya sigue controles de seguridad bien definidos para activos militares de EE. UU., implementar estos en OpenShell fue menos un desafío, dijo Weingarten.
«Al construir controles aplicables en toda la pila tecnológica, NVIDIA y Gecko están ayudando a garantizar que las salvaguardas que rigen la IA física avancen tan rápidamente como la tecnología misma», añadió la empresa.
La plataforma impulsada por IA Cantilever de Gecko transforma los grandes conjuntos de datos recopilados por sus robots en información procesable. La empresa afirmó que sus sistemas permiten decisiones basadas en datos y evidencias sobre estructuras, ofreciendo un retorno de la inversión (ROI) para los clientes.
Dado que OpenShell opera dentro del límite de un sistema de campo Komodo, no interactúa directamente con Cantilever, señaló Weingarten. Gecko tiene la intención de utilizar la capa de seguridad de NVIDIA tanto para sistemas de defensa como militares en el futuro, dijo. El control determinista también podría beneficiar a las operaciones a nivel de enjambre.
«Ciertamente es útil tener invariantes a nivel de unidad individual que puedan utilizarse para razonar sobre la dinámica del enjambre/flota», dijo Weingarten. «Estamos entusiasmados por evolucionar a medida que pasamos del control de sistemas individuales a la operación asistida por agentes de todo un despliegue».
El acuerdo de Fortinet con Virtue AI refuerza la seguridad de Agentic AI
Ken Xie, fundador y director ejecutivo de Fortinet | Crédito: FortinetFortinet adquiere Virtue AI para reforzar la protección en tiempo de ejecución y la validación automatizada de los sistemas de IA,
El acuerdo de Nvidia con China para el H200 sobrevive a la cumbre Trump-Xi, pero no como se esperaba
El presidente Trump viajó a Pekín con Jensen Huang uniéndose a la delegación en el último momento, partiendo dos días después con declaraciones vagas sobre posibles desarrollos en la exportación de chips. No se concretó ningún acuerdo. Desde que Trum
Nvidia obtendrá el 25% de los ingresos del próximo año de laboratorios financiados
Nvidia ha invertido casi 50 000 millones de dólares en laboratorios de IA para la compra de sus chips, asegurando compromisos por un total superior a 500 000 millones de dólares.El 26 de agosto, la directora financiera Colette Kress informó a los ana











