KI-Rennen: Lassen sich halsbrecherische Geschwindigkeiten mit Sicherheitsanforderungen vereinbaren?

Die Kritik eines OpenAI-Forschers an der KI-Sicherheit, die sich gegen einen Konkurrenten richtet, offenbart einen tieferen Kampf der Branche - einen Kampf gegen sich selbst.

Es begann damit, dass Boaz Barak, ein Harvard-Professor, der derzeit beurlaubt ist und bei OpenAI an der Sicherheit arbeitet, die Veröffentlichung des Grok-Modells von xAI als "völlig unverantwortlich" bezeichnete. Seine Kritik bezog sich nicht auf die schlagzeilenträchtigen Mätzchen, sondern auf das, was fehlte: eine öffentliche Systemkarte, detaillierte Sicherheitsbewertungen und die grundlegenden Artefakte der Transparenz, die zu fragilen Industrienormen geworden sind.

Dies war eine klare und notwendige Aufforderung zum Handeln. Eine offene Reflexion des ehemaligen OpenAI-Ingenieurs Calvin French-Owen, die nur drei Wochen nach seinem Ausscheiden veröffentlicht wurde, zeigt jedoch die andere Seite der Geschichte.

French-Owens Bericht zeigt, dass eine beträchtliche Anzahl von OpenAI-Mitarbeitern tatsächlich auf Sicherheit bedacht ist und sich mit sehr realen Bedrohungen wie Hassreden, Biowaffen und Selbstverletzungen auseinandersetzt. Dennoch bietet er einen entscheidenden Einblick: "Die meiste Arbeit, die geleistet wird, wird nicht veröffentlicht", schreibt er und fügt hinzu, dass OpenAI "wirklich mehr tun sollte, um sie zu veröffentlichen".

Hier fällt die einfache Erzählung von einem verantwortlichen Akteur, der einen unverantwortlichen zurechtweist, auseinander. Stattdessen wird hier das wahre Dilemma der Branche offengelegt. Die gesamte KI-Branche befindet sich in einer Situation, die man als "Sicherheits-Geschwindigkeits-Paradoxon" bezeichnen könnte - ein tiefgreifender, struktureller Konflikt zwischen dem Wettbewerbsdruck, mit halsbrecherischer Geschwindigkeit voranzukommen, und dem ethischen Gebot, mit Vorsicht vorzugehen, um die Menschen zu schützen.

Laut French-Owen arbeitet OpenAI in einem Zustand des kontrollierten Chaos. Das Unternehmen hat seine Belegschaft in nur einem Jahr auf über 3.000 Mitarbeiter verdreifacht, wobei "alles zusammenbricht, wenn man so schnell skaliert". Diese chaotische Energie wird von dem immensen Druck angetrieben, den er als "Drei-Pferde-Rennen" in Richtung künstlicher allgemeiner Intelligenz beschreibt, das direkt mit Google und Anthropic konkurriert. Das Ergebnis ist eine Kultur, die von unglaublicher Geschwindigkeit, aber auch von Geheimhaltung geprägt ist.

Man denke nur an die Entwicklung von Codex, dem Kodierungsagenten von OpenAI. French-Owen beschreibt das Projekt als einen "Wahnsinns-Sprint", bei dem ein kleines Team in nur sieben Wochen ein bahnbrechendes Produkt von Grund auf entwickelte.

Dies ist ein Paradebeispiel für Schnelligkeit - in den meisten Nächten wurde bis Mitternacht und sogar an den Wochenenden gearbeitet, um das Projekt zu verwirklichen. Dies sind die menschlichen Kosten einer solchen Geschwindigkeit. Ist es da verwunderlich, dass die langsame, methodische Arbeit bei der Veröffentlichung von KI-Sicherheitsforschung in einem derart rasanten Umfeld wie eine Ablenkung vom Rennen wirkt?

Dieses Paradoxon ist nicht auf Böswilligkeit zurückzuführen, sondern auf eine Kombination starker, miteinander verbundener Kräfte.

Da ist zum einen der offensichtliche Wettbewerbsdruck, der Erste zu sein. Hinzu kommt die kulturelle DNA dieser Labors, die als informelle Gemeinschaften von "Wissenschaftlern und Tüftlern" entstanden sind, die bahnbrechende Innovationen über systematische Prozesse stellen. Hinzu kommt ein grundlegendes Messproblem: Es ist leicht, Geschwindigkeit und Leistung zu messen, aber äußerst schwierig, eine erfolgreich abgewendete Katastrophe zu quantifizieren.

In den Vorstandsetagen von heute werden die sichtbaren Messgrößen des Fortschritts fast immer über die unsichtbaren Erfolge der Sicherheit dominieren. Damit die Branche jedoch vorankommt, muss sich der Schwerpunkt von Schuldzuweisungen auf eine grundlegende Änderung der Spielregeln verlagern.

Wir müssen neu definieren, was es bedeutet, ein Produkt auf den Markt zu bringen, und die Veröffentlichung eines Sicherheitsnachweises zu einem ebenso wichtigen Bestandteil machen wie den Code selbst. Wir brauchen branchenweite Standards, die sicherstellen, dass kein Unternehmen aufgrund seiner Sorgfalt Wettbewerbsnachteile erleidet, und die Sicherheit von einem optionalen Merkmal in eine gemeinsame, nicht verhandelbare Grundlage verwandeln.

Vor allem aber müssen wir in den KI-Labors eine Kultur fördern, in der sich jeder Ingenieur - nicht nur die Mitarbeiter der Sicherheitsabteilung - verantwortlich fühlt.

Beim Wettlauf um die Schaffung von AGI geht es nicht nur darum, wer als Erster am Ziel ist, sondern auch darum, wie wir es erreichen. Letztendlich wird nicht das Unternehmen gewinnen, das einfach nur am schnellsten ist, sondern dasjenige, das der Welt zeigt, dass Ehrgeiz und Verantwortung gemeinsam voranschreiten können - und müssen.

Siehe auch: Militärische KI-Aufträge an Anthropic, OpenAI, Google und xAI vergeben

Möchten Sie mehr über KI und Big Data von Branchenführern erfahren? Besuchen Sie die AI & Big Data Expo, die in Amsterdam, Kalifornien und London stattfindet. Diese umfassende Veranstaltung findet gemeinsam mit anderen führenden Konferenzen statt, darunter die Intelligent Automation Conference, BlockX, Digital Transformation Week und die Cyber Security & Cloud Expo.

Hier finden Sie weitere Veranstaltungen und Webinare zu Unternehmenstechnologien, die von TechForge unterstützt werden.