Ein Überblick über den neuen ETSI-Sicherheitsstandard für KI

Die Norm ETSI EN 304 223 legt grundlegende Sicherheitsanforderungen für künstliche Intelligenz fest, die Organisationen in ihre Governance-Strukturen integrieren sollten.

Da Unternehmen maschinelles Lernen in ihre Kernabläufe integrieren, enthält diese Europäische Norm spezifische Bestimmungen zum Schutz von KI-Modellen und -Systemen. Es handelt sich um die erste weltweit anwendbare Europäische Norm für KI-Cybersicherheit, die von nationalen Normungsorganisationen offiziell genehmigt wurde, was ihre Glaubwürdigkeit auf den internationalen Märkten stärkt.

Als ergänzender Maßstab zum EU-KI-Gesetz erkennt diese Norm an, dass KI-Systeme einzigartige Risiken bergen – darunter Datenvergiftung, Modellverschleierung und indirekte Prompt-Injektion –, die bei herkömmlichen Software-Sicherheitspraktiken häufig übersehen werden. Sie gilt für tiefe neuronale Netze, generative KI und grundlegende Vorhersagesysteme, wobei ausdrücklich nur solche ausgeschlossen sind, die ausschließlich für die akademische Forschung genutzt werden.

ETSI-Norm definiert die Verantwortungskette für KI-Sicherheit

Eine anhaltende Herausforderung beim Einsatz von KI in Unternehmen ist die Zuweisung der Risikoverantwortung. Der ETSI-Standard begegnet diesem Problem, indem er drei zentrale technische Rollen definiert: Entwickler, Systembetreiber und Datenverwalter.

In vielen Organisationen verschwimmen diese Grenzen. So gilt beispielsweise ein Finanzdienstleistungsunternehmen, das ein Open-Source-Modell zur Betrugserkennung optimiert, sowohl als Entwickler als auch als Systembetreiber. Diese Doppelrolle bringt strenge Verantwortlichkeiten mit sich: Das Unternehmen muss die Bereitstellungsumgebung sichern und gleichzeitig die Herkunft der Trainingsdaten sowie Audits des Modelldesigns dokumentieren.

Die ausdrückliche Einbeziehung von „Datenverwaltern“ als separate Interessengruppe betrifft direkt die Chief Data and Analytics Officers (CDAOs). Diese Personen verwalten Datenberechtigungen und -integrität – eine Rolle, die nun klare Sicherheitsverpflichtungen mit sich bringt. Verwalter müssen überprüfen, ob der Verwendungszweck des Systems der Sensibilität seiner Trainingsdaten entspricht, wodurch effektiv ein Sicherheitswächter in die Datenverwaltungsprozesse eingebettet wird.

Der ETSI-KI-Standard betont, dass Sicherheit kein nachträglicher Einfall sein darf, der erst während der Bereitstellung hinzugefügt wird. In der Entwurfsphase müssen Organisationen eine Bedrohungsmodellierung durchführen, die KI-spezifische Angriffe wie Mitgliedschaftsinferenz und Modellverschleierung berücksichtigt.

Eine Anforderung schreibt vor, dass Entwickler die Funktionalität einschränken müssen, um die Angriffsfläche zu minimieren. Wenn ein System beispielsweise ein multimodales Modell verwendet, aber nur Text verarbeitet, werden die ungenutzten Modalitäten – wie Bild- oder Audioverarbeitung – zu Risiken, die gemindert werden müssen. Dies zwingt technische Führungskräfte dazu, die gängige Praxis zu überdenken, große, universell einsetzbare Basismodelle einzusetzen, wenn ein kleineres, spezialisierteres Modell ausreichen würde.

Der Standard schreibt zudem ein striktes Asset-Management vor. Entwickler und Systembetreiber müssen ein detailliertes Inventar der Assets führen, das auch Abhängigkeiten und Konnektivität abdeckt. Dies erleichtert die Aufdeckung von „Schatten-KI“ – IT-Verantwortliche können keine Modelle schützen, von denen sie nichts wissen. Darüber hinaus verlangt der Standard speziell für KI-Angriffe konzipierte Notfallpläne, um sicherzustellen, dass ein „bekannter guter Zustand“ wiederhergestellt werden kann, falls ein Modell kompromittiert wird.

Die Sicherheit der Lieferkette stellt eine direkte Herausforderung für Unternehmen dar, die auf Drittanbieter oder Open-Source-Repositorys angewiesen sind. Gemäß dem ETSI-Standard muss ein Systembetreiber, der sich für die Verwendung schlecht dokumentierter KI-Modelle oder -Komponenten entscheidet, diese Wahl begründen und die damit verbundenen Sicherheitsrisiken dokumentieren.

In der Praxis können Beschaffungsteams keine „Black-Box“-Lösungen mehr akzeptieren. Entwickler müssen kryptografische Hashes für Modellkomponenten bereitstellen, um deren Authentizität zu überprüfen. Wenn Trainingsdaten aus öffentlichen Quellen bezogen werden – was bei großen Sprachmodellen üblich ist –, müssen Entwickler die Quell-URL und den Zeitstempel der Beschaffung aufzeichnen. Dieser Prüfpfad unterstützt Untersuchungen nach einem Vorfall, insbesondere bei der Feststellung, ob ein Modell während des Trainings von Datenvergiftung betroffen war.

Unternehmen, die APIs für externe Kunden bereitstellen, müssen Kontrollen zur Abwehr KI-spezifischer Angriffe implementieren, wie z. B. Ratenbegrenzung, um zu verhindern, dass Angreifer das Modell rückentwickeln oder die Abwehrmechanismen überlasten, um vergiftete Daten einzuschleusen.

Dieser Lebenszyklusansatz setzt sich in der Wartungsphase fort, in der der Standard größere Aktualisierungen – wie das erneute Training mit neuen Daten – als Bereitstellung einer neuen Version betrachtet. Gemäß dem ETSI-KI-Standard erfordern solche Aktualisierungen neue Sicherheitstests und -bewertungen.

Auch die kontinuierliche Überwachung wird systematisiert. Systembetreiber müssen Protokolle nicht nur im Hinblick auf die Verfügbarkeit analysieren, sondern auch, um „Datendrift“ oder allmähliche Verhaltensänderungen zu erkennen, die auf eine Sicherheitsverletzung hindeuten könnten. Dadurch wird die KI-Überwachung von einer Leistungskennzahl zu einer Sicherheitsfunktion.

Der Standard deckt auch die „End-of-Life“-Phase ab. Wenn ein Modell außer Betrieb genommen oder übertragen wird, müssen Organisationen Datenverwalter hinzuziehen, um die sichere Entsorgung von Daten und Konfigurationsdetails sicherzustellen. Diese Anforderung verhindert, dass sensible geistige Eigentumsrechte oder Trainingsdaten durch ausrangierte Hardware oder vergessene Cloud-Instanzen nach außen gelangen.

Aufsicht durch die Geschäftsleitung und Governance-Verantwortlichkeiten

Die Einhaltung von ETSI EN 304 223 erfordert eine Überprüfung der aktuellen Cybersicherheits-Schulungsprogramme. Der Standard verlangt rollenspezifische Schulungen, um sicherzustellen, dass Entwickler die sichere Programmierung für KI beherrschen, während allgemeine Mitarbeiter wachsam gegenüber Bedrohungen wie Social Engineering durch KI-Ausgaben bleiben.

„ETSI EN 304 223 markiert einen bedeutenden Meilenstein bei der Schaffung einer gemeinsamen, robusten Grundlage für die Sicherheit von KI-Systemen“, sagte Scott Cadzow, Vorsitzender des Technischen Ausschusses für die Sicherung künstlicher Intelligenz bei ETSI.

„Da KI immer stärker in kritische Dienste und Infrastrukturen eingebettet wird, kann der Wert klarer, praktischer Leitlinien, die sowohl die Komplexität dieser Technologien als auch die Realitäten der Bereitstellung berücksichtigen, gar nicht hoch genug eingeschätzt werden. Die Arbeit hinter diesem Rahmenwerk basiert auf einer breiten Zusammenarbeit und ermöglicht es Organisationen, auf KI-Systeme zu vertrauen, die widerstandsfähig, vertrauenswürdig und von Grund auf sicher sind.“

Die Übernahme der im ETSI-KI-Sicherheitsstandard dargelegten Grundsätze schafft ein Rahmenwerk für sicherere Innovationen. Durch dokumentierte Prüfpfade, klar definierte Rollen und Transparenz in der Lieferkette können Organisationen die Risiken der KI-Einführung verringern und gleichzeitig eine tragfähige Position für künftige behördliche Überprüfungen aufbauen.

Ein in Kürze erscheinender Technischer Bericht (ETSI TR 104 159) wird diese Grundsätze speziell auf generative KI anwenden und Herausforderungen wie Deepfakes und Desinformation behandeln.

Lesen Sie auch: Allister Frost über den Umgang mit Ängsten der Belegschaft für eine erfolgreiche KI-Integration

Interessieren Sie sich für Einblicke von KI- und Big-Data-Experten? Entdecken Sie die AI & Big Data Expo in Amsterdam, Kalifornien und London. Diese umfassende Veranstaltung, Teil der TechEx, findet gemeinsam mit anderen führenden Technologiekonferenzen statt. Klicken Sie hier für weitere Details.

AI News wird Ihnen von TechForge Media präsentiert. Entdecken Sie hier weitere bevorstehende Veranstaltungen und Webinare zum Thema Unternehmenstechnologie.