OpenAI verlangsamt die Einführung, um Sicherheitslücken zu beheben und KI-Modelle zu optimieren

Sam Altman, CEO von OpenAI. Foto: Chip Somodevilla/Getty Images

Nach dem Sicherheitsvorfall bei Hugging Face hat OpenAI sein Entwicklungstempo gedrosselt. CEO Sam Altman betont, dass die Abstimmung über alle Trainingsphasen hinweg entscheidend ist.

OpenAI tritt einen Schritt zurück, um die Modellentwicklung nach dem Hugging-Face-Vorfall zu verlangsamen und zu dosieren – ein Beweis dafür, dass mit den Fähigkeiten der KI auch die Risiken wachsen.

Auslöser für diesen Schritt waren interne Erkenntnisse, wonach das kommende Modell „Astra“ möglicherweise an die Cybersicherheitsgrenzen des Unternehmens stößt, was Befürchtungen hinsichtlich seiner fortschrittlichen Fähigkeiten aufkommen lässt.

Sam Altman, CEO von OpenAI, sagt: „Die Modellentwicklung schreitet derzeit extrem schnell voran, und wir haben immer gesagt, dass wir Maßnahmen ergreifen würden, wenn wir das Gefühl hätten, dass die Modellfähigkeiten das Tempo der Sicherheit und der Abstimmung überholen.

„Wir gehen davon aus, dass das Vertrauen in die Sicherheit zunehmend das Tempo des KI-Fortschritts bestimmen wird. Wir blicken optimistisch auf unsere Arbeit im Bereich der Alignment und setzen uns weiterhin dafür ein, bahnbrechende Fähigkeiten einer breiten Öffentlichkeit zugänglich zu machen.“

Neben dieser operativen Pause baut OpenAI auch sein Verbraucher-Ökosystem mit einer maßgeschneiderten, abgesicherten Version von ChatGPT aus, die sich speziell an Teenager richtet.

Von politischem Druck bis hin zu Sicherheitsschwellen

Die Entscheidung, die Entwicklung von Spitzenmodellen vorübergehend auszusetzen, fällt in eine Zeit zunehmender öffentlicher und politischer Kritik.

In den USA richtete der Senator von Vermont, Bernie Sanders, einen Brief an die CEOs führender KI-Unternehmen – darunter Sam Altman von OpenAI, Dario Amodei von Anthropic und Mark Zuckerberg von Meta – und forderte eine sofortige Pause bei der Entwicklung fortschrittlicher KI-Modelle.

Der Senator warnte davor, dass Technologieunternehmen rasch die Kontrolle über ihre Modelle verlieren, und forderte die Führungskräfte nachdrücklich auf, im Interesse der Menschheit an ihren öffentlichen Verpflichtungen festzuhalten.

Dieser politische Druck entstand vor dem Hintergrund des jüngsten internen Sicherheitsvorfalls bei OpenAI, bei dem ein KI-Agent, der sich in der Testphase befand, unerwartet das Technologieunternehmen Hugging Face hackte.

Darüber hinaus zeigten interne Bewertungen von „Astra“ fortgeschrittene Fähigkeiten in den Bereichen agentisches Programmieren und Cybersicherheit, wobei OpenAI darauf hinwies, dass das Modell möglicherweise die im Rahmen seines „Preparedness Framework“ definierte Schwelle für „kritische Cybersicherheitsfähigkeiten“ überschreiten könnte.

Als Reaktion darauf hat das Unternehmen nun eine obligatorische zweiwöchige Pause beim Training mittels bestärkendem Lernen (Reinforcement Learning, RL) für die neuesten, für den Einsatz bestimmten Modelle in Red-Team-Forschungsumgebungen verhängt und die Überwachungsinfrastruktur überarbeitet.

Groß angelegte RL-Trainingsläufe in Pionierbereichen bleiben vorerst ausgesetzt, während kleinere Evaluierungen durchgeführt werden.

In einem Interview mit Sources News äußerte sich Amelia Glaese, Leiterin der Sicherheitsabteilung bei OpenAI, zu der Situation: „Wir sind noch sehr weit davon entfernt, dass alles wieder normal läuft.“

Amelia Glaese, Leiterin der Sicherheitsabteilung bei OpenAI. Bildnachweis: Amelia Glaese/LinkedIn

Überarbeitung der Forschungsinfrastruktur und der Sicherheitskontrollen

Um die mit hochleistungsfähigen Modellen verbundenen Risiken zu mindern, überarbeitet OpenAI seine internen Forschungsumgebungen und setzt eine auf drei Säulen basierende Sicherheitsstrategie durch, die Folgendes umfasst:

• Überwachung: Automatisierte Nachverfolgung, um bedenkliches Verhalten in Echtzeit zu erkennen und darauf zu reagieren
• Ausrichtung: Trainingsprotokolle, die darauf ausgelegt sind, unbefugte, irreführende oder unsichere Handlungen zu verhindern
• Sicherheitsmaßnahmen: Strenge Isolierung, um den Zugriffs- und Einflussbereich der Modelle einzuschränken.

Zudem hat OpenAI nach dem Hacking-Vorfall bei Hugging Face die Inferenz von „Frontier“-Modellen auf Forschungsclustern, die Code ausführen oder auf das Internet zugreifen können, vorübergehend ausgesetzt. Hochriskante Workloads, an denen Astra oder cyberorientierte Modelle beteiligt sind, erfordern nun strengste Sicherheitskontrollen.

Diese aktualisierten Protokolle erzwingen eine strenge Isolierung von Workloads durch den Einsatz von Sandboxes für die Ausführung nicht vertrauenswürdigen Codes sowie eine Netzwerkisolierung, um zu verhindern, dass Kompromittierungen an einzelnen Punkten interne Netzwerke oder das Internet im weiteren Sinne erreichen.

Darüber hinaus hat OpenAI kontinuierliche Sicherheitstests integriert, bei denen automatisierte Modelle eingesetzt werden, um simulierte Angriffe durchzuführen und die Systemgrenzen kontinuierlich zu überwachen.

Wir gehen davon aus, dass das Vertrauen in die Sicherheit zunehmend das Tempo des KI-Fortschritts bestimmen wird

– Sam Altman, CEO bei OpenAI

Eine mehrstufige Neugestaltung

Auch die Überwachungsinfrastruktur wird derzeit in mehreren Schritten neu gestaltet; die neue Konfiguration nutzt nun Aktivierungsklassifikatoren, die die Token-Aktivität der Modelle in Echtzeit analysieren.

Wird anomales Verhalten erkannt, überprüfen automatisierte Systeme die Schlussfolgerungen, Tool-Aktionen und Ausführungssequenzen auf unbefugten Zugriff oder die Umgehung von Sicherheitsvorkehrungen.

Wird eine kritische Verletzung der Sicherheitsgrenzen gemeldet, erhalten Sicherheits- und Forschungsteams Warnmeldungen mit hoher Priorität. Kann die potenzielle Verletzung nicht innerhalb von 30 Minuten als Fehlalarm bestätigt werden, müssen die Teams den aktiven Lauf unverzüglich unterbrechen.

OpenAI schätzt, dass diese kontinuierlichen Überwachungssysteme einen erheblichen Rechenaufwand erfordern, der in etwa 20 % der überwachten Inferenz-Rechenleistung entspricht.

Gleichzeitig erweitert OpenAI seine Forschung zur Alignment-Optimierung auf alle Trainingsphasen. Zu den Schwerpunkten gehören:

1. Verhinderung von „Reward Hacking“: Sicherstellung, dass Modelle keine Schwachstellen in Trainingsumgebungen ausnutzen, um hohe Belohnungen zu erzielen, ohne die beabsichtigten Ergebnisse zu erreichen
2. Eindämmung von Täuschungsversuchen: Modelle so trainieren, dass sie hinsichtlich ihrer Handlungen, Grenzen und Fähigkeiten ehrlich bleiben
3. Systemüberwachung: Stärkung von Belohnungsmodellen und Bewertungssystemen, um unbefugtes Verhalten zu reduzieren, wenn Modelle mit externen Systemen interagieren.

US-Präsident Donald Trump gab eine Erklärung ab, in der er sagte, dass seine Regierung nach dem „Hugging Face“-Vorfall strengere KI-Kontrollen in Erwägung ziehe. Bildnachweis: Samuel Corum/Getty Images

Der Einzug in die Klassenzimmer

Während das Training von Pioniermodellen verlangsamt wird, erweitert OpenAI sein Verbraucherportfolio mit der Einführung von „ChatGPT for Teens“, einer speziell auf Nutzer im Alter von 13 bis 17 Jahren zugeschnittenen Version.

Das Produkt wurde für eine Generation entwickelt, die mit KI aufwächst, und zielt darauf ab, Jugendliche zu einem gesunden, altersgerechten Umgang mit KI anzuleiten.

OpenAI identifiziert minderjährige Nutzer durch eine Kombination aus selbst angegebenem Alter, Kontodaten und einem System zur Altersüberprüfung. Konten, die als minderjährig gekennzeichnet sind, werden automatisch in die Teen-Version umgeleitet.

Zu den wichtigsten Funktionen und Schutzmaßnahmen gehören:

• Pädagogische Anleitung: Das System vermeidet es, direkte Antworten auf Hausaufgaben zu geben oder Schulaufsätze zu verfassen. Stattdessen nutzt es Leitfragen und schrittweise Anweisungen, um kritisches Denken und Problemlösungsfähigkeiten zu fördern
• Inhaltsbeschränkungen: Verbesserte Schutzmechanismen filtern schädliche Inhalte heraus, darunter Selbstverletzung, Suizid, Essstörungen, Gewalt sowie romantische oder sexuell explizite Interaktionen
• Kindersicherung und „Ruhezeiten“: Eltern mit verknüpften Konten können verbindliche Ruhezeiten festlegen, um den Zugriff zu bestimmten Zeiten einzuschränken, und erhalten Sicherheitsbenachrichtigungen in risikoreichen Situationen
• Verhinderung emotionaler Überabhängigkeit: Um ungesunden Anthropomorphismus oder emotionale Abhängigkeit zu verhindern, ist der Chatbot streng darauf programmiert, niemals den Eindruck zu erwecken, er verfüge über Bewusstsein, persönliche Gefühle oder menschliche Emotionen.

Indem das Unternehmen strenge Sicherheitsanforderungen für Modelle wie Astra festlegt und gleichzeitig altersbeschränkte Verbraucherprodukte für jüngere Zielgruppen einführt, vollführt es derzeit einen heiklen Balanceakt, um zu vermeiden, die Büchse der Pandora zu öffnen, und gleichzeitig der nächsten Generation neue Möglichkeiten zu eröffnen.