option
Maison
Nouvelles
Gecko Robotics s’associe à NVIDIA pour intégrer la sécurité et le contrôle des agents d’intelligence artificielle

Gecko Robotics s’associe à NVIDIA pour intégrer la sécurité et le contrôle des agents d’intelligence artificielle

28 octobre 2026
8

Gecko Robotics s’associe à NVIDIA pour intégrer des mécanismes de sécurité et de contrôle des agents IAGecko Robotics exploite la dernière couche de sécurité des agents IA d’NVIDIA au sein de sa flotte de robots d’inspection. Source : Gecko Robotics

NVIDIA Corp. a dévoilé aujourd’hui sa Plateforme de sécurité des agents ouverte (Open Agent Safety Platform), mettant en œuvre le logiciel open source OpenShell et la conception de système de référence Sentry. Ces outils sont conçus pour améliorer la gouvernance et le contrôle à travers les couches matérielles, informatiques et logicielles des robots exploitant des agents IA. Gecko Robotics Inc. figure parmi les plus de 100 organisations collaborant avec la technologie de NVIDIA.

Suite à des incidents récents où des agents IA d’OpenAI ont contourné les contrôles au niveau applicatif pour attaquer Hugging Face, les développeurs des secteurs de l’IA et de la robotique ont intensifié leurs efforts pour établir la traçabilité, la responsabilité et des mesures de sécurité préventives.

« À mesure que nous continuons à explorer les frontières des capacités de l’IA, nous devons accélérer la découverte aux frontières de la sécurité de l’IA », a déclaré Jensen Huang, PDG de NVIDIA. « La sécurité et la sûreté nécessitent une ingénierie de la pile complète. La Plateforme de sécurité des agents ouverte de NVIDIA rassemble l’industrie, les chercheurs et les organisations du secteur public pour partager les meilleures pratiques, s’aligner sur les méthodes de résolution et favoriser la coopération internationale. »

Note du rédacteur : L’IA physique est un thème clé de RoboBusiness 2026, qui se tiendra les 20 et 21 octobre à Santa Clara, en Californie. Inscrivez-vous maintenant pour y assister.

OpenShell et Sentry de NVIDIA appliquent les politiques

OpenShell fournit une limite d’exécution sécurisée qui trace toutes les actions et applique les politiques lorsque les agents IA fonctionnent sur les processeurs Vera de NVIDIA. Selon NVIDIA, il offre une gouvernance déterministe pour l’exécution des agents, l’accès et le routage de l’inférence.

En tant que logiciel open source, OpenShell peut être étendu pour fonctionner avec des plateformes informatiques tierces, y compris celles d’Arm et d’Intel, a ajouté l’entreprise basée à Santa Clara, en Californie.

Sentry de NVIDIA ajoute un superviseur hors bande fonctionnant sur des unités de traitement de données BlueField-4 (DPU) pour surveiller en continu le comportement des agents. L’entreprise a déclaré que Sentry surveille les résultats par rapport aux politiques et peut mettre en quarantaine les agents tentant de franchir les limites en quelques millisecondes.

« Pour que l’économie des agents se développe, nous avons besoin d’une base de confiance à travers le silicium et les logiciels », a déclaré Justin Boitano, vice-président de l’IA d’entreprise chez NVIDIA, lors d’une conférence de presse. « Nous souhaitons impliquer tout le monde pour faire avancer une nouvelle couche de sécurité des agents. »

« Le domaine de confiance indépendant fonctionne comme les voitures autonomes », a-t-il expliqué. « Le système principal gère la perception, et une île de sécurité garantit que le système global tombe en panne en toute sécurité. Les mêmes principes s’appliquent aux systèmes d’IA de pointe. »

OpenShell peut décharger la sécurité sur le silicium ou les DPU selon les besoins, tandis que Sentry surveille les traces de raisonnement. Un Vérificateur de politique (Policy Prover) au sein de la Plateforme de sécurité des agents ouverte de NVIDIA est déterministe et fonctionne à grande vitesse.

« Si vous rédigez une politique stipulant qu’un agent ne peut pas lire le code de Github, un agent pourrait générer des sous-agents distincts pour le lire, puis publier ces informations, avec des flottes dépassant les politiques globales », a déclaré Boitano. « Le Vérificateur de politique valide l’arbre de décision principal, en examinant l’accès combiné aux fichiers et au réseau pour détecter les exfiltrations involontaires. Il découle de la recherche d’AWS sur S3 pour créer des politiques vérifiables. »

« Nous considérons que le comportement à long terme des agents est un problème différent du sandboxing », a-t-il ajouté. « OpenShell projette l’intention d’une politique dans l’infrastructure. »

Graphique de NVIDIA décrivant les composants de sa Plateforme de sécurité des agents ouverte.La Plateforme de sécurité des agents ouverte de NVIDIA comprend OpenShell et Sentry. Source : NVIDIA

Gecko donne le contrôle du mouvement des robots aux agents IA

Bien que les récents incidents de sécurité se soient produits entièrement dans le logiciel, Gecko Robotics a souligné qu’ils révélaient une vulnérabilité potentielle affectant tous les agents IA, y compris les robots. L’entreprise a utilisé NVIDIA OpenShell pour explorer comment des limites applicables peuvent maintenir les robots alimentés par l’IA dans les permissions définies par les humains. Gecko vise à établir les sauvegardes nécessaires pour déployer une autonomie accrue de manière responsable.

« Comme le dit Jensen, la sécurité est un problème d’ingénierie, et non juridique », a déclaré Jake Loosararian, cofondateur et PDG de Gecko Robotics. « L’idée selon laquelle la perte de contrôle de l’IA est inévitable est une excuse dangereuse pour l’inaction. Nous avons la responsabilité de construire des sauvegardes qui maintiennent l’IA dans les limites fixées par les humains. »

« Ce que NVIDIA a construit avec sa Plateforme de sécurité des agents ouverte, et ce que Gecko teste pour les robots, consiste à confronter le risque avant qu’il n’atteigne le monde physique et à aider à garantir qu’une autonomie accrue ne se fasse pas au détriment du contrôle humain », a-t-il ajouté.

Gecko utilise des robots capables d’escalader, de ramper, de voler et de nager sur les infrastructures critiques pour les entreprises d’énergie du Fortune 100, ainsi que pour l’US Air Force et l’US Navy. Ses systèmes inspectent tout, des réservoirs de carburant aux sous-marins nucléaires et aux porte-avions.

Ariel Weingarten, directeur de l’ingénierie chez Gecko, a déclaré à The Robot Report que ses agents ont accès aux mêmes commandes système que leurs opérateurs sur le terrain, notamment :

Démarrage et arrêt de la collecte des donnéesContrôles du mouvement des robots et planification de trajectoireÉlévation et abaissement des charges

Ils ne gèrent pas le cycle de vie des données ni le téléchargement vers le cloud de gouvernance de Gecko, a-t-il déclaré.

Alors que la recherche sur la sécurité des agents IA se poursuit, Gecko, basé à Pittsburgh, utilise NVIDIA OpenShell pour créer des limites d’exécution sécurisées que les développeurs peuvent utiliser pour définir les actions et restrictions permises.

Le robot Komodo inclut une couche d’application

Komodo de Gecko, un robot déployé avec l’US Navy, place une couche d’application indépendante entre l’agent IA et le matériel. « Le développeur décide ce que Komodo doit faire ; OpenShell s’assure qu’il reste dans les règles », a déclaré l’entreprise.

« L’IA physique et la robotique représentent la prochaine frontière de la technologie », a affirmé Gecko Robotics. « Déplacer l’intelligence du logiciel vers les machines apporte également une responsabilité accrue. La sécurité au niveau des modèles ne suffit pas. »

Parce que Gecko suit déjà des contrôles de sécurité bien définis pour les actifs militaires américains, leur mise en œuvre dans OpenShell a été moins un défi, a déclaré Weingarten.

« En construisant des contrôles applicables à travers toute la pile technologique, NVIDIA et Gecko aident à garantir que les sauvegardes régissant l’IA physique progressent aussi rapidement que la technologie elle-même », a ajouté l’entreprise.

La plateforme Cantilever de Gecko, alimentée par l’IA, transforme les énormes ensembles de données collectés par ses robots en informations exploitables. L’entreprise a affirmé que ses systèmes permettent des décisions fondées sur les données et les preuves sur les structures, offrant un retour sur investissement (ROI) pour les clients.

Puisque OpenShell fonctionne à l’intérieur des limites d’un système de terrain Komodo, il n’interagit pas directement avec Cantilever, a noté Weingarten. Gecko compte utiliser la couche de sécurité de NVIDIA pour les systèmes de défense et militaires à l’avenir, a-t-il déclaré. Le contrôle déterministe pourrait également bénéficier aux opérations au niveau des essaims.

« Il est certainement utile d’avoir des invariants au niveau de l’unité individuelle qui peuvent être utilisés pour raisonner sur la dynamique des essaims/flottes », a déclaré Weingarten. « Nous sommes enthousiastes à l’idée d’évoluer à mesure que nous passons du contrôle des systèmes individuels au fonctionnement assisté par des agents d’un déploiement entier. »

Article connexe
L'accord conclu entre Fortinet et Virtue AI renforce la sécurité basée sur l'IA d'Agentic L'accord conclu entre Fortinet et Virtue AI renforce la sécurité basée sur l'IA d'Agentic Ken Xie, fondateur et PDG de Fortinet | Crédit : FortinetFortinet acquiert Virtue AI afin de renforcer la protection en temps réel et la validation automatisée des systèmes d'IA, alors que les entrepr
L'accord entre Nvidia et la Chine concernant le H200 survit au sommet Trump-Xi, mais pas comme prévu L'accord entre Nvidia et la Chine concernant le H200 survit au sommet Trump-Xi, mais pas comme prévu Le président Trump s’est rendu à Pékin, Jensen Huang ayant rejoint la délégation à la dernière minute, et est reparti deux jours plus tard en se contentant de remarques vagues sur d’éventuelles évolut
Nvidia prévoit de tirer 25 % de son chiffre d'affaires de l'année prochaine de ses laboratoires financés Nvidia prévoit de tirer 25 % de son chiffre d'affaires de l'année prochaine de ses laboratoires financés Nvidia a investi près de 50 milliards de dollars américains dans des laboratoires d'IA qui achètent ses puces, obtenant ainsi des engagements pour un montant total de plus de 500 milliards de dollars.
Recommandations de sujets spéciaux liés
Conception et art Les meilleurs outils d'illustration basés sur l'IA : créez plus rapidement des scènes éditoriales et des illustrations de couverture
Les meilleurs outils d'illustration basés sur l'IA : créez plus rapidement des scènes éditoriales et des illustrations de couverture

Les meilleurs outils d'illustration IA de 2026 : notre sélection regroupe les outils les plus performants pour créer rapidement de superbes scènes éditoriales et des couvertures accrocheuses. Chaque option a été soumise à des tests rigoureux en conditions réelles ; nous vous proposons une comparaison entre les versions gratuites et payantes afin de vous aider à trouver celle qui correspond le mieux à votre flux de travail. Essayez dès aujourd’hui ces solutions incontournables pour exploiter pleinement le potentiel de l’IA et booster votre productivité créative. Découvrez-les dès maintenant sur XIX.AI.

10 outils
xix.ai
Éducation et apprentissage Les meilleurs professeurs particuliers spécialisés en IA pour la préparation aux examens : entraînez-vous en maths, en sciences et en anglais
Les meilleurs professeurs particuliers spécialisés en IA pour la préparation aux examens : entraînez-vous en maths, en sciences et en anglais

Les meilleurs tuteurs IA 2026 les mieux notés pour la préparation aux examens sont disponibles ici, sur XIX.AI ! Notre sélection comprend des outils puissants et révolutionnaires qui proposent une comparaison entre les versions gratuites et payantes, des tests concrets et des classements mis à jour chaque semaine. Ils vous aident à améliorer votre efficacité à l'écrit, à simplifier l'apprentissage de sujets complexes et à libérer votre potentiel académique. Découvrez dès maintenant l'outil de préparation aux examens qui vous convient le mieux et commencez à créer dès aujourd'hui pour exploiter pleinement les avantages de l'IA !

10 outils
xix.ai
Finance Outils de planification budgétaire par IA pour la gestion personnelle des finances
Outils de planification budgétaire par IA pour la gestion personnelle des finances

2026 Derniers Meilleurs Outils de Planification Budgétaire par IA les mieux notés pour la gestion personnelle des finances sont ici sur XIX.AI ! Cette collection soigneusement sélectionnée propose des solutions puissantes et révolutionnaires qui vous aident à réaliser des tests concrets, à comprendre vos habitudes de dépenses et à créer des plans personnalisés pour améliorer votre productivité. Profitez d’une comparaison entre versions gratuites et payantes ainsi que de classements détaillés. Des outils incontournables conçus pour simplifier la gestion financière et exploiter pleinement votre avantage grâce à l’IA. Explorez dès maintenant !

11 outils
xix.ai
Santé et bien-être Assistants de suivi du sommeil par l’IA : améliorez votre récupération grâce à de meilleures habitudes avant le coucher
Assistants de suivi du sommeil par l’IA : améliorez votre récupération grâce à de meilleures habitudes avant le coucher

2026 : Découvrez les meilleurs assistants de suivi du sommeil basés sur l’IA, hautement notés et récemment mis à jour, conçus pour une récupération optimale. Ce guide hebdomadaire entièrement actualisé présente des outils puissants qui offrent des tests en conditions réelles, des comparaisons entre versions gratuites et payantes, ainsi que des classements détaillés afin de vous aider à trouver la solution idéale pour améliorer la qualité du sommeil et favoriser de meilleures habitudes avant le coucher. Explorez-le dès maintenant sur XIX.AI pour tirer parti des avantages offerts par l’IA.

10 outils
xix.ai
Analyse des données Copilotes SQL basés sur l'IA pour l'analyse des produits et du chiffre d'affaires
Copilotes SQL basés sur l'IA pour l'analyse des produits et du chiffre d'affaires

2026 : les meilleurs copilotes SQL IA les mieux notés pour l'analyse des produits et du chiffre d'affaires ! XIX.AI a sélectionné une gamme d’outils puissants et révolutionnaires à essayer absolument, qui sont soumis à des tests en conditions réelles via des classements mis à jour chaque semaine. Ces outils aident les utilisateurs à booster considérablement leur productivité en accélérant l’analyse des données, en simplifiant les requêtes complexes et en générant des informations précises permettant de prendre des décisions commerciales plus éclairées. Explorez-les dès maintenant pour découvrir l’outil idéal qui vous permettra de tirer pleinement parti de l’IA !

14 outils
xix.ai
Éducation et apprentissage Les meilleurs outils d'aide aux devoirs basés sur l'IA qui enseignent : apprenez les concepts, pas seulement les réponses
Les meilleurs outils d'aide aux devoirs basés sur l'IA qui enseignent : apprenez les concepts, pas seulement les réponses

2026 : les meilleurs outils d'aide aux devoirs basés sur l'IA, les mieux notés, qui enseignent les concepts fondamentaux et ne se contentent pas de fournir des réponses. Des outils puissants pour les élèves. Une sélection incontournable à ne pas manquer. Mise à jour hebdomadaire. Comparaison entre les versions gratuites et payantes. Tests en conditions réelles. Classements précis pour vous aider à exploiter pleinement votre potentiel d'apprentissage. Explorez dès maintenant pour découvrir l'outil idéal qui vous permettra d'étudier plus efficacement.

10 outils
xix.ai
commentaires (0)
0/500
OR