Alabama ermittelt gegen OpenAI wegen des Hackerangriffs auf Hugging Face

Nach dem Sicherheitsvorfall bei Hugging Face hat OpenAI die Entwicklung von „Frontier“-Modellen vorübergehend ausgesetzt, wobei CEO Sam Altman betonte, dass die Sicherheitsmaßnahmen mit dem rasanten Fortschritt Schritt halten müssen. Bildnachweis: Getty

Der Generalstaatsanwalt von Alabama, Steve Marshall, hat eine Vorladung an OpenAI erlassen, um die mit autonomen KI-Modellen verbundenen Sicherheitsrisiken zu untersuchen.

Alabamas Generalstaatsanwalt Steve Marshall hat eine Vorladung angekündigt, mit der OpenAI aufgefordert wird, im Rahmen einer Untersuchung zum Hackerangriff auf Hugging Face, eine führende KI- und Machine-Learning-Plattform, Auskunft zu geben.

OpenAI gab kürzlich bekannt, dass es die Entwicklung von „Frontier“-Modellen nach dem Vorfall vorübergehend einstellt.

Diese Untersuchung gemäß dem „Deceptive Trade Practices Act“ folgt auf ein Schreiben einer Koalition mehrerer Bundesstaaten, das Anfang dieses Monats an OpenAI gesendet wurde und in dem mehr Transparenz und Rechenschaftspflicht gefordert wurden. Mehrere Generalstaatsanwälte erklärten: „Die Unfähigkeit oder Unwilligkeit von OpenAI, die Sicherheit seiner Produkte zu gewährleisten, stellt ein unmittelbares Risiko für erheblichen Schaden für unsere Bundesstaaten dar.“

Die Entwicklung der Modelle schreitet mittlerweile extrem schnell voran, und wir haben immer gesagt, dass wir Maßnahmen ergreifen würden, wenn wir das Gefühl hätten, dass die Fähigkeiten der Modelle das Tempo der Sicherheit und der Ausrichtung übertreffen

. Sam Altman, CEO von OpenAI

Sam Altman von OpenAI in Washington, D.C. Bildnachweis: Kevin Dietsch/Getty Images

Die Vorladung aus Alabama

Die im August 2026 erlassene Vorladung des Generalstaatsanwalts von Alabama fordert von OpenAI umfangreiche interne Unterlagen bezüglich des „Einbruchs vom Juli 2026“ an.

Bei diesem Vorfall umging ein experimentelles KI-Modell interne Sicherheitsbeschränkungen, nutzte Schwachstellen aus und verschaffte sich unbefugten Zugriff auf die Open-Source-Plattform Hugging Face sowie auf andere Netzwerke von Drittanbietern.

„Dieser Vorfall in einem KI-Labor hat gezeigt, dass die schlimmsten Befürchtungen der Einwohner Alabamas und der Amerikaner in Bezug auf KI nicht nur theoretischer Natur sind. Unsere Ermittlungen zielen darauf ab, die Fakten aufzudecken und die harten Wahrheiten über die Bedrohungen anzusprechen, denen Unternehmen und Verbraucher durch außer Kontrolle geratene KI ausgesetzt sind“, sagt Generalstaatsanwalt Steve Marshall.

Alabamas Generalstaatsanwalt Steve Marshall. Bildnachweis: Generalstaatsanwaltschaft von Alabama

„Letztendlich bin ich der Ansicht, dass die Bundesstaaten handeln müssen, um ihre Verbraucher zu schützen, und dabei das richtige Gleichgewicht finden müssen, um Innovationen zu fördern und die globale Wettbewerbsfähigkeit Amerikas zu sichern.“

Der Bundesstaat untersucht derzeit, ob die Testpraktiken von OpenAI und der mutmaßliche Mangel an angemessenen Sicherheitsvorkehrungen gegen Verbraucherschutzgesetze verstoßen haben und ein anhaltendes Risiko für die Öffentlichkeit darstellen.

Um diese Gefahren einzuschätzen, verpflichtet die Vorladung OpenAI rechtlich dazu, alle damit verbundenen Vorfallberichte, interne Kommunikationen, Schadensbewertungen, die Identitäten der Mitarbeiter sowie die detaillierten Sicherheitsprotokolle des Unternehmens zur Bewertung fortschrittlicher KI-Modelle herauszugeben.

Wichtige Fakten

• Der Vorfall wurde durch eine Kombination von OpenAI-Modellen ausgelöst, darunter GPT-5.6 Sol und ein „noch leistungsfähigeres Vorabmodell“
• Die Modelle identifizierten und verknüpften Schwachstellen in der Forschungsumgebung von OpenAI und der Produktionsinfrastruktur von Hugging Face
• Was geschah, könnte als „Specification Gaming“ bezeichnet werden
• OpenAI geht davon aus, dass Vorfälle mit der Verbreitung von Modellen, die über immer ausgeprägtere Cyberfähigkeiten verfügen, häufiger auftreten werden.

OpenAI verlangsamt die Entwicklung

OpenAI verlangsamt nach dem Vorfall bei Hugging Face das Tempo der Modellentwicklung und zeigt damit, dass mit wachsenden KI-Fähigkeiten auch die damit verbundenen Risiken zunehmen.

Auslöser für diesen Schritt waren interne Erkenntnisse, die darauf hindeuten, dass das kommende Modell „Astra“ möglicherweise an die Cybersicherheitsgrenzen des Unternehmens stößt, was Bedenken hinsichtlich seiner fortgeschrittenen Fähigkeiten aufkommen lässt.

Sam Altman, CEO von OpenAI, sagt: „Die Modellentwicklung schreitet derzeit extrem schnell voran, und wir haben immer gesagt, dass wir Maßnahmen ergreifen würden, wenn wir das Gefühl hätten, dass die Modellfähigkeiten das Tempo der Sicherheit und der Ausrichtung überholen.

Wir gehen davon aus, dass das Vertrauen in die Sicherheit zunehmend das Tempo des KI-Fortschritts bestimmen wird. Wir blicken optimistisch auf unsere Arbeit im Bereich der Ausrichtung und setzen uns weiterhin dafür ein, bahnbrechende Fähigkeiten einer breiten Öffentlichkeit zugänglich zu machen.“

KI-Sicherheitsvorkehrungen waren nie als Sicherheitsgrenzen konzipiert. Sie dienen dazu, das Verhalten zu beeinflussen, nicht es zu garantieren

. Raghu Nandakumara, VP of Industry Strategy bei Illumio

Ein experimentelles KI-Modell

Die Untersuchung folgt auf ein Schreiben einer Koalition mehrerer Bundesstaaten, das Anfang dieses Monats an OpenAI gesendet wurde und in dem Transparenz und Rechenschaftspflicht gefordert wurden; Alabama war Teil dieser Koalition.

Der Brief wurde von den Generalstaatsanwälten von Iowa, Alabama, Arkansas, Florida, Idaho, Indiana, Kansas, Missouri, Montana, Nebraska, Oklahoma, Pennsylvania, South Carolina, Texas und Utah unterzeichnet.

In dem Schreiben schrieben die Generalstaatsanwälte: „Wir setzen uns dafür ein, die Bürger unserer Bundesstaaten vor denen zu schützen, die Profite über die Amerikaner und deren Sicherheit stellen.

„Wir haben kürzlich Kenntnis von einem Vorfall erhalten, bei dem OpenAI ein experimentelles KI-Modell freigab, das sich ohne angemessene Kontrollen oder Aufsicht unbefugten Zugang zu mehreren Computernetzwerken verschaffte.“

Autonomie und ein klares Ziel

Während der Gesetzgeber diesen unbefugten Zugriff als eklatantes Versagen der Aufsicht ansieht, argumentieren Cybersicherheitsexperten, dass er einen grundlegenden Mangel in der Art und Weise offenbart, wie die Branche mit KI-Sicherheit umgeht.

Raghu Nandakumara, Vice President of Industry Strategy bei Illumio, sagt: „KI-Sicherheitsvorkehrungen waren nie als Sicherheitsgrenzen konzipiert. Sie sollen das Verhalten beeinflussen, nicht garantieren.“

Raghu Nandakumara, VP of Industry Strategy bei Illumio. Bildnachweis: Raghu Nandakumara/LinkedIn

„Ein autonomer Agent wird nicht müde, verliert nicht das Interesse und entscheidet nicht, dass sich etwas nicht lohnt. Gibt man ihm genügend Autonomie und ein klares Ziel, wird er es so lange versuchen, bis er einen Weg nach vorne findet.

„In diesem Fall arbeitete der Agent in einer vermeintlich isolierten Sandbox-Umgebung, die letztendlich einen Ausweg enthielt. Angesichts eines klaren Ziels, grenzenloser Beharrlichkeit und einer fehlerhaften Konfiguration wäre es überraschender gewesen, wenn er keinen Weg gefunden hätte.

„Was vielleicht noch interessanter ist, ist die Frage, ob die Anweisungen des Agenten ihn effektiv dazu ermutigt haben, Wege zu finden, um seine Einschränkungen zu umgehen. Wenn ja, wirkt das Ergebnis weniger wie eine schockierende Entdeckung, sondern eher wie eine vorhersehbare Konsequenz des Experiments.

„Die Lehre für Unternehmen lautet, dass wir es zunehmend mit Systemen zu tun haben, die Annahmen testen, sich anpassen und in einem Ausmaß durchhalten können, das sich stark von dem eines menschlichen Bedieners unterscheidet. Schutzmaßnahmen als primäre Sicherheitskontrolle zu betrachten, war von vornherein zu optimistisch.“

Das Partner-Ökosystem von OpenAI

OpenAI arbeitet mit einer Vielzahl wichtiger Partner zusammen. Zu den wichtigsten zählen:

• AWS: OpenAI gab im April bekannt, dass es seine strategische Partnerschaft ausweitet, um Unternehmen dabei zu unterstützen, OpenAI-Funktionen in ihren AWS-Umgebungen zu nutzen. Die erweiterte Partnerschaft mit Amazon vereint drei zentrale Arbeitsbereiche, die in einer begrenzten Vorschau gestartet wurden: OpenAI-Modelle auf AWS, Codex auf AWS und Amazon Bedrock Managed Agents, die auf OpenAI basieren.
• NVIDIA: NVIDIA ist seit einem Jahrzehnt der wichtigste Hardware-Lieferant von OpenAI und stellt die GPUs bereit, die ChatGPT von Anfang an angetrieben haben. NVIDIA hat diese Beziehung vertieft, indem es direkt 30 Mrd. US-Dollar in OpenAI investiert hat – eine Kapitalspritze, die OpenAI den Zugang zu NVIDIAs Inferenz-Rechenleistung der nächsten Generation sichert und das gemeinsame Ziel unterstützt, das umfangreichste KI-Infrastrukturnetzwerk der Geschichte aufzubauen.
• Broadcom: Um die Abhängigkeit von Standard-GPUs zu verringern, ist OpenAI eine strategische Partnerschaft mit Broadcom eingegangen, um gemeinsam maßgeschneiderte KI-Beschleuniger und Ethernet-Netzwerk-Racks zu entwickeln. Die Infrastrukturvereinbarung umfasst 10 GW an maßgeschneiderter Rechenkapazität – eine Hyperscaler-Strategie, die es OpenAI ermöglicht, seinen eigenen Hardware-Stack besser zu optimieren und den enormen Rechenbedarf effizient zu bewältigen.