Heim
Arme KI – Intelligente Agenten gewinnen an Transparenz dank NVIDIA und Cisco’s Open-Source-OpenShell

Da Unternehmens-KI-Agenten von Entwicklungslaboren in die Kerngeschäftsprozesse übergehen, ist es für Entwickler von großer Bedeutung, Angriffe durch Prompt-Injection zu verhindern – solche Angriffe können zu „Meutereien“ der KI oder Datenlecks führen.
Am 17. März kündigten NVIDIA und Cisco eine leistungsstarke Lösung an: die offizielle Open-Source-Veröffentlichung des KI-Agenten-Runtimes OpenShell. Dieses System dient als „Firewall“ für langlaufende KI-Agenten und ermöglicht es Unternehmen, jede KI-Aktion präzise zu steuern, während gleichzeitig die Automatisierung auf großem Maßstab umgesetzt werden kann.
Der Kerndesign von OpenShell ist äußerst robust: Jeder KI-Agent erhält eine physisch isolierte Sandbox-Umgebung ohne Standardberechtigungen. Jeder externe Zugriff, jede Tool-Ausführung sowie die Desensibilisierung von Datenschutzdaten für Cloud-Modelle erfordern detaillierte Policy-Berechtigungen.
Ergänzt wird dies durch die AI Defense-Sicherheitsplattform von Cisco. Während OpenShell definiert, was ein Agent tun kann, sorgt AI Defense dafür, dass dieser tatsächlich genau das tut. Es führt kontinuierlich Protokolle über die Denkschritte und Entscheidungsprozesse des Agents und stellt sicher, dass jede Fähigkeitsausführung einer Sicherheitsprüfung unterzogen wird.
Diese schichtweise Sicherheitsarchitektur erweist sich in der Praxis als äußerst effektiv. Wenn beispielsweise ein Unternehmen auf einen neuen Zero-Day-Schwachstellenangriff stößt:
Interne KI-Agenten analysieren automatisch Sicherheitshinweise und identifizieren betroffene Geräte mithilfe von Netzwerk-Wissensgraphen.
Der gesamte komplexe Analyse- und Behebungsprozess läuft innerhalb der OpenShell-Sandbox ab.
Falls ein Agent während der Behebung auf bösartige Anweisungen stößt, die versuchen, sensible Konfigurationen auszuspionieren, blockiert die AI Defense-Gateway den verdächtigen Request sofort.
NVIDIA erklärte, dass diese Architektur darauf abzielt, die „Schwarzkasten-Natur“ der KI zu beenden. Mit Sicherheitsüberprüfungen auf Infrastruktur-Ebene können Unternehmen komplexere Automatisierungsaufgaben ohne Bedenken an KI-Agenten übertragen, da sie sicher sind, den Systemkontrollverlust vermeiden zu können. Die Open-Source-Veröffentlichung von OpenShell markiert einen neuen Abschnitt, in dem die großflächige Einsetzung von Unternehmens-KI-Agenten „an gesetzlichen Vorgaben gebunden ist“.
Verwandter Artikel
Apple Smart Glasses könnten auf der WWDC27 vorgestellt werden und dabei den Schutz der Privatsphäre in den Mittelpunkt stellen
Bloombergs Mark Gurman berichtet, dass Apples Smart Glasses mit dem Codenamen N50 im Juni 2027 auf der WWDC27 vorgestellt werden sollen, wobei ein Verkaufsstart im Herbst 2027 erwartet wird. Ursprünglich für Ende dieses Jahres und Anfang 2027 geplant
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation
Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen
Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Da Unternehmens-KI-Agenten von Entwicklungslaboren in die Kerngeschäftsprozesse übergehen, ist es für Entwickler von großer Bedeutung, Angriffe durch Prompt-Injection zu verhindern – solche Angriffe können zu „Meutereien“ der KI oder Datenlecks führen.
Am 17. März kündigten NVIDIA und Cisco eine leistungsstarke Lösung an: die offizielle Open-Source-Veröffentlichung des KI-Agenten-Runtimes OpenShell. Dieses System dient als „Firewall“ für langlaufende KI-Agenten und ermöglicht es Unternehmen, jede KI-Aktion präzise zu steuern, während gleichzeitig die Automatisierung auf großem Maßstab umgesetzt werden kann.
Der Kerndesign von OpenShell ist äußerst robust: Jeder KI-Agent erhält eine physisch isolierte Sandbox-Umgebung ohne Standardberechtigungen. Jeder externe Zugriff, jede Tool-Ausführung sowie die Desensibilisierung von Datenschutzdaten für Cloud-Modelle erfordern detaillierte Policy-Berechtigungen.
Ergänzt wird dies durch die AI Defense-Sicherheitsplattform von Cisco. Während OpenShell definiert, was ein Agent tun kann, sorgt AI Defense dafür, dass dieser tatsächlich genau das tut. Es führt kontinuierlich Protokolle über die Denkschritte und Entscheidungsprozesse des Agents und stellt sicher, dass jede Fähigkeitsausführung einer Sicherheitsprüfung unterzogen wird.
Diese schichtweise Sicherheitsarchitektur erweist sich in der Praxis als äußerst effektiv. Wenn beispielsweise ein Unternehmen auf einen neuen Zero-Day-Schwachstellenangriff stößt:
Interne KI-Agenten analysieren automatisch Sicherheitshinweise und identifizieren betroffene Geräte mithilfe von Netzwerk-Wissensgraphen.
Der gesamte komplexe Analyse- und Behebungsprozess läuft innerhalb der OpenShell-Sandbox ab.
Falls ein Agent während der Behebung auf bösartige Anweisungen stößt, die versuchen, sensible Konfigurationen auszuspionieren, blockiert die AI Defense-Gateway den verdächtigen Request sofort.
NVIDIA erklärte, dass diese Architektur darauf abzielt, die „Schwarzkasten-Natur“ der KI zu beenden. Mit Sicherheitsüberprüfungen auf Infrastruktur-Ebene können Unternehmen komplexere Automatisierungsaufgaben ohne Bedenken an KI-Agenten übertragen, da sie sicher sind, den Systemkontrollverlust vermeiden zu können. Die Open-Source-Veröffentlichung von OpenShell markiert einen neuen Abschnitt, in dem die großflächige Einsetzung von Unternehmens-KI-Agenten „an gesetzlichen Vorgaben gebunden ist“.
Apple Smart Glasses könnten auf der WWDC27 vorgestellt werden und dabei den Schutz der Privatsphäre in den Mittelpunkt stellen
Bloombergs Mark Gurman berichtet, dass Apples Smart Glasses mit dem Codenamen N50 im Juni 2027 auf der WWDC27 vorgestellt werden sollen, wobei ein Verkaufsstart im Herbst 2027 erwartet wird. Ursprünglich für Ende dieses Jahres und Anfang 2027 geplant
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation
Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen
Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch











