Gecko Robotics geht mit NVIDIA eine Partnerschaft ein, um die Sicherheit und Steuerung von KI-Agenten zu integrieren

Gecko Robotics nutzt die neueste KI-Agent-Sicherheitslayer von NVIDIA in seiner Flotte von Inspektionsrobotern. Quelle: Gecko Robotics

Die NVIDIA Corp. hat heute ihre Open Agent Safety Platform vorgestellt, die die quelloffene OpenShell-Software und das Referenzsystemdesign Sentry umfasst. Diese Tools sollen Governance und Kontrolle über Hardware-, Rechen- und Softwareebenen für Roboter hinweg verbessern, die KI-Agenten betreiben. Die Gecko Robotics Inc. gehört zu den mehr als 100 Organisationen, die mit der Technologie von NVIDIA zusammenarbeiten.

Nach jüngsten Vorfällen, bei denen KI-Agenten von OpenAI die Kontrollen auf Anwendungsebene umgingen, um Hugging Face anzugreifen, haben Entwickler in den Bereichen KI und Robotik ihre Bemühungen verstärkt, Nachverfolgbarkeit, Verantwortlichkeit und präventive Sicherheitsmaßnahmen zu etablieren.

„Während wir weiterhin die Grenzen der KI-Fähigkeiten erkunden, müssen wir die Entdeckungen an der Frontlinie der KI-Sicherheit beschleunigen“, sagte Jensen Huang, CEO von NVIDIA. „Sicherheit und Schutz erfordern eine Full-Stack-Ingenieurarbeit. Die NVIDIA Open Agent Safety Platform bringt Industrie, Forscher und Organisationen des öffentlichen Sektors zusammen, um Best Practices zu teilen, sich auf Lösungsansätze zu einigen und die internationale Zusammenarbeit zu fördern.“

Hinweis der Redaktion: Physische KI ist ein zentrales Themafeld auf der RoboBusiness 2026, die am 20. und 21. Oktober in Santa Clara, Kalifornien, stattfindet. Registrieren Sie sich jetzt zur Teilnahme.

NVIDIA OpenShell und Sentry setzen Richtlinien durch

OpenShell bietet eine sichere Laufzeitgrenze, die alle Aktionen nachverfolgt und Richtlinien durchsetzt, während KI-Agenten auf NVIDIA Vera-CPUs operieren. Laut NVIDIA bietet es deterministische Governance für die Ausführung von Agenten, den Zugriff und das Routing der Inferenz.

Als quelloffene Software könne OpenShell erweitert werden, um mit Compute-Plattformen von Drittanbietern zu arbeiten, einschließlich solcher von Arm und Intel, fügte das in Santa Clara, Kalifornien, ansässige Unternehmen hinzu.

NVIDIA Sentry fügt einen Out-of-Band-Watchdog hinzu, der auf BlueField-4-Datenverarbeitungseinheiten (DPUs) läuft, um das Verhalten von Agenten kontinuierlich zu überwachen. Das Unternehmen erklärte, dass Sentry Ergebnisse gegen Richtlinien überwacht und Agenten, die versuchen, Grenzen zu durchbrechen, innerhalb von Millisekunden in Quarantäne versetzen kann.

„Damit die Agentenwirtschaft wachsen kann, benötigen wir eine vertrauenswürdige Grundlage über Silizium und Software hinweg“, sagte Justin Boitano, Vizepräsident für Enterprise-KI bei NVIDIA, während einer Pressekonferenz. „Wir möchten alle Beteiligten einbeziehen, um eine neue Ebene der Agentensicherheit voranzubringen.“

„Die unabhängige Vertrauensdomäne funktioniert ähnlich wie bei selbstfahrenden Autos“, erklärte er. „Das primäre System führt die Wahrnehmung durch, und eine Sicherheitsinsel stellt sicher, dass das Gesamtsystem sicher ausfällt. Die gleichen Prinzipien gelten für KI-Systeme an der Frontlinie.“

OpenShell kann die Sicherheit bei Bedarf auf Silizium oder DPUs auslagern, während Sentry Schlussfolgerungsspuren überwacht. Ein Policy Prover innerhalb der NVIDIA Open Agent Safety Platform ist deterministisch und arbeitet mit hoher Geschwindigkeit.

„Wenn Sie eine Richtlinie schreiben, die besagt, dass ein Agent keinen Code von Github lesen darf, könnte ein Agent separate Subagenten starten, um ihn zu lesen und diese Informationen dann zu posten, wobei Flotten globale Richtlinien außer Kraft setzen könnten“, sagte Boitano. „Der Policy Prover validiert den Master-Entscheidungsbaum und betrachtet kombinierte Datei- und Netzwerkzugriffe, um unbeabsichtigte Datenabflüsse zu finden. Er stammt aus der S3-Forschung von AWS, um überprüfbare Richtlinien zu erstellen.“

„Wir betrachten das langfristige Verhalten von Agenten als ein anderes Problem als das Sandboxing“, fügte er hinzu. „OpenShell projiziert die Absicht einer Richtlinie in die Infrastruktur.“

Die NVIDIA Open Agent Safety Platform umfasst OpenShell und Sentry. Quelle: NVIDIA

Gecko gibt KI-Agenten Kontrolle über die Roboterbewegung

Während die jüngsten Sicherheitsvorfälle vollständig innerhalb der Software stattfanden, wies Gecko Robotics darauf hin, dass sie eine potenzielle Verwundbarkeit aufzeigten, die alle KI-Agenten, einschließlich Robotern, betrifft. Das Unternehmen hat NVIDIA OpenShell genutzt, um zu untersuchen, wie durchsetzbare Grenzen KI-gestützte Roboter innerhalb menschlich definierter Berechtigungen halten können. Gecko zielt darauf ab, die notwendigen Schutzmaßnahmen zu etablieren, um eine größere Autonomie verantwortungsvoll einzusetzen.

„Wie Jensen sagt, ist Sicherheit ein Ingenieurproblem, kein rechtliches“, sagte Jake Loosararian, Mitgründer und CEO von Gecko Robotics. „Die Idee, dass der Verlust der Kontrolle über KI unvermeidlich ist, ist eine gefährliche Ausrede für Untätigkeit. Wir haben die Verantwortung, Schutzmaßnahmen zu entwickeln, die KI innerhalb der von Menschen festgelegten Grenzen halten.“

„Was NVIDIA mit ihrer Open Agent Safety Platform aufgebaut hat und was Gecko für Roboter testet, ist das Konfrontieren des Risikos, bevor es die physische Welt erreicht, und hilft sicherzustellen, dass eine größere Autonomie nicht auf Kosten der menschlichen Kontrolle geht“, fügte er hinzu.

Gecko nutzt Roboter, die auf kritischer Infrastruktur für Fortune-100-Energieunternehmen sowie der US Air Force und der US Navy klettern, kriechen, fliegen und schwimmen können. Seine Systeme inspizieren alles von Kraftstofftanks bis hin zu Atom-U-Booten und Flugzeugträgern.

Ariel Weingarten, Direktor für Ingenieurwesen bei Gecko, sagte gegenüber The Robot Report, dass ihre Agenten Zugriff auf dieselben Systembefehle wie ihre Feldoperatoren haben, einschließlich:

Starten und Stoppen der DatenerfassungRoboterbewegungssteuerungen und PfadplanungHeben und Senken von Nutzlasten

Sie hätten jedoch nicht mit dem Datenlebenszyklus oder dem Hochladen in Geckos Governance-Cloud zu tun, sagte er.

Während die Forschung zur KI-Agentensicherheit weitergeht, nutzt das in Pittsburgh ansässige Gecko NVIDIA OpenShell, um sichere Laufzeitgrenzen zu erstellen, die Entwickler nutzen können, um zulässige Aktionen und Einschränkungen zu definieren.

Komodo-Roboter enthält Durchsetzungsschicht

Geckos Komodo, ein Roboter, der mit der US Navy eingesetzt wird, platziert eine unabhängige Durchsetzungsschicht zwischen dem KI-Agenten und der Hardware. „Der Entwickler entscheidet, was Komodo tun soll; OpenShell stellt sicher, dass er innerhalb der Regeln bleibt“, sagte das Unternehmen.

„Physische KI und Robotik repräsentieren die nächste Frontlinie der Technologie“, betonte Gecko Robotics. „Die Verlagerung von Intelligenz von Software in Maschinen bringt auch größere Verantwortung mit sich. Die Sicherheit auf Modellebene allein reicht nicht aus.“

Da Gecko bereits gut definierte Sicherheitskontrollen für US-Militärgüter befolge, sei die Implementierung in OpenShell weniger eine Herausforderung gewesen, sagte Weingarten.

„Indem NVIDIA und Gecko durchsetzbare Kontrollen über den gesamten Technologie-Stack hinweg aufbauen, helfen sie sicherzustellen, dass die Schutzmaßnahmen, die physische KI regeln, sich genauso schnell weiterentwickeln wie die Technologie selbst“, fügte das Unternehmen hinzu.

Geckos Cantilever-KI-gestützte Plattform verwandelt die von seinen Robotern gesammelten massiven Datensätze in umsetzbare Erkenntnisse. Das Unternehmen behauptete, dass seine Systeme datengetriebene, evidenzbasierte Entscheidungen über Strukturen ermöglichen und einen Return on Investment (ROI) für Kunden liefern.

Da OpenShell innerhalb der Grenze eines Komodo-Feldsystems operiert, interagiere es nicht direkt mit Cantilever, bemerkte Weingarten. Gecko beabsichtige, die Sicherheitslayer von NVIDIA in Zukunft sowohl für Verteidigungs- als auch Militärsysteme zu nutzen, sagte er. Die deterministische Kontrolle könnte auch Schwarmoperationen auf Ebene der Flotte zugutekommen.

„Es ist sicherlich hilfreich, Invarianten auf der Ebene einzelner Einheiten zu haben, die verwendet werden können, um über Schwarm-/Flottendynamik zu schlussfolgern“, sagte Weingarten. „Wir sind begeistert, uns weiterzuentwickeln, während wir vom einzelnen Systemsteuerung zur agentengestützten Operation einer gesamten Einsatzplanung übergehen.“