Reco will blinde Flecken bei der KI in Unternehmen beseitigen

KI verbreitet sich am Arbeitsplatz in einem noch nie dagewesenen Tempo. Jeden Tag verbinden Mitarbeiter KI-Tools mit Unternehmenssystemen - oft ohne Genehmigung oder Kontrolle durch IT-Sicherheitsteams. Das Ergebnis ist das, was Experten als Schatten-KI bezeichnen: ein wachsendes Netzwerk von Integrationen und Tools, die ohne Überwachung auf Unternehmensdaten zugreifen.

Dr. Tal Shapira, Mitbegründer und CTO bei Reco, einem SaaS-Anbieter für Sicherheit und KI-Governance, sagt, dass diese unsichtbare Ausbreitung zu einer der größten organisatorischen Bedrohungen werden könnte. Er stellt fest, dass die Geschwindigkeit der KI-Einführung bereits die aktuellen Sicherheitsvorkehrungen in Unternehmen überholt hat.

"Wir haben uns in etwa 18 Monaten von 'KI kommt' zu 'KI ist überall' bewegt. Die Herausforderung besteht darin, dass die Governance-Rahmenwerke nicht Schritt gehalten haben", so Shapira.

Die versteckte Bedrohung in Unternehmenssystemen

Laut Shapira wurden die meisten Sicherheitssysteme in Unternehmen für eine ältere Ära entwickelt, in der alles hinter Firewalls und Netzwerkgrenzen blieb. Schatten-KI unterbricht dieses Modell, indem sie von innen heraus operiert, versteckt in den eigenen Anwendungen des Unternehmens.

Viele moderne KI-Tools lassen sich direkt in alltägliche SaaS-Plattformen wie Salesforce, Slack oder Google Workspace integrieren. Dies ist zwar nicht per se gefährlich, aber die KI verbindet sich oft über Berechtigungen oder Plug-ins, die nach der Einrichtung aktiv bleiben. Diese "stillen" Verbindungen können der KI weiterhin Zugriff auf Unternehmensdaten gewähren - auch nachdem der Mitarbeiter, der sie installiert hat, das Unternehmen verlässt oder die Tools nicht mehr nutzt. Dies stellt eine große Herausforderung für die Schatten-KI dar.

Shapira sagte: "Das tiefere Problem ist, dass sich diese Tools in die Unternehmensinfrastruktur einbetten, manchmal für Monate oder Jahre, ohne entdeckt zu werden."

Diese neue Risikoklasse ist besonders schwer zu verfolgen, da viele KI-Systeme probabilistisch sind. Anstatt feste Befehle auszuführen, macht KI Vorhersagen auf der Grundlage von Mustern. Folglich variiert ihr Verhalten je nach Kontext, was die Überwachung und Kontrolle erschwert.

Wenn KI sich unerwartet verhält

Vorfälle aus der realen Welt zeigen die greifbaren Auswirkungen von Schatten-KI. Reco arbeitete kürzlich mit einem Fortune-100-Finanzunternehmen zusammen, das glaubte, seine Systeme seien sicher und konform. Innerhalb weniger Tage nach dem Einsatz der Reco-Überwachung entdeckte das Unternehmen über 1.000 nicht autorisierte Integrationen von Drittanbietern in seinen Salesforce- und Microsoft 365-Umgebungen - mehr als die Hälfte davon wurde durch KI gesteuert.

Eine Integration, ein mit Zoom verbundenes Transkriptionstool, hatte jeden Kundenanruf aufgezeichnet - einschließlich Preisverhandlungen und vertraulichem Feedback. "Sie trainierten versehentlich ein Modell eines Drittanbieters auf ihren sensibelsten Daten", erklärte Shapira. "Es gab weder einen Vertrag noch Klarheit darüber, wie diese Daten gespeichert oder verwendet wurden."

In einem anderen Fall verband ein Mitarbeiter ChatGPT direkt mit Salesforce und ermöglichte es der KI, innerhalb weniger Stunden Hunderte von internen Berichten zu erstellen. Dies war zwar effizient, gab aber Kundendaten und Umsatzprognosen an eine externe KI-Plattform weiter.

Wie Reco aufdeckt, was unsichtbar bleibt

Die Plattform von Reco bietet Unternehmen einen vollständigen Überblick darüber, welche KI-Tools sich mit ihren Systemen verbinden und auf welche Daten diese Tools zugreifen können. Sie scannt SaaS-Umgebungen kontinuierlich auf OAuth-Berechtigungen, Drittanbieter-Apps und Browser-Erweiterungen. Sobald sie identifiziert sind, zeigt Reco an, welche Benutzer sie installiert haben, welche Berechtigungen sie haben und ob das Verhalten ungewöhnlich erscheint.

Wenn eine Verbindung riskant erscheint, alarmiert das System die Administratoren oder entzieht automatisch den Zugriff. "Geschwindigkeit ist entscheidend, denn KI-Tools können riesige Datenmengen innerhalb von Stunden und nicht von Tagen extrahieren", so Shapira.

Im Gegensatz zu herkömmlichen Sicherheitsprodukten, die sich auf Netzwerkperimeter konzentrieren, zielt Reco auf die Identitäts- und Zugriffsebene ab. Damit eignet es sich gut für die heutigen Cloud-first- und SaaS-abhängigen Unternehmen, in denen die meisten Daten außerhalb der traditionellen Firewall liegen.

Ein umfassenderer Sicherheitsalarm

Branchenanalysten zufolge spiegelt der Ansatz von Reco einen umfassenderen Sicherheitstrend in Unternehmen wider: die Verlagerung von der Blockierung von KI zu deren Steuerung. Ein aktueller Cisco-Bericht über die KI-Bereitschaft ergab, dass 62 % der Unternehmen zugeben, dass sie nur einen begrenzten Überblick darüber haben, wie Mitarbeiter KI-Tools bei der Arbeit nutzen. Fast die Hälfte hatte bereits mit mindestens einem KI-bezogenen Datenvorfall zu kämpfen.

In dem Maße, in dem KI in Mainstream-Software eingebettet wird - von Einstein von Salesforce bis hin zu Microsoft Copilot - wird die Herausforderung immer größer. "Sie könnten davon ausgehen, dass Sie eine vertrauenswürdige Plattform verwenden", so Shapira, "aber nicht erkennen, dass diese nun KI-Funktionen enthält, die automatisch auf Ihre Daten zugreifen."

Die Plattform von Reco schließt diese Lücke, indem sie sowohl genehmigte als auch nicht genehmigte KI-Aktivitäten überwacht und Unternehmen dabei hilft zu verstehen, wohin ihre Daten fließen und warum.

KI mit Vertrauen annehmen

Shapira glaubt, dass wir in die "KI-Infrastrukturphase" eintreten - eine Zeit, in der jedes Unternehmenstool in irgendeiner Form KI enthält, ob sichtbar oder nicht. Das macht eine kontinuierliche Überwachung, den Zugriff mit den geringsten Rechten und zeitlich begrenzte Berechtigungen unerlässlich.

"Erfolgreiche Unternehmen werden nicht diejenigen sein, die KI blockieren", hat er beobachtet. "Sie werden diejenigen sein, die sie verantwortungsvoll einsetzen, mit Leitplanken, die sowohl Innovation als auch Vertrauen schützen.

Schatten-KI, so betonte er, spiegelt nicht die Nachlässigkeit der Mitarbeiter wider, sondern wie schnell die Technologie voranschreitet. "Die Menschen wollen produktiv sein", sagte er. "Unsere Aufgabe ist es, dies zu ermöglichen, ohne das Unternehmen zu gefährden."

Für Unternehmen, die KI nutzen wollen, ohne die Kontrolle über ihre Daten zu verlieren, hat Reco eine klare Botschaft parat: Man kann nicht sichern, was man nicht sehen kann.

Bildquelle: © Unsplash