Warum Chloé Bakalar, die Leiterin der Ethikabteilung bei OpenAI, das Unternehmen verlassen hat

Chloe Bakalar, ehemalige Leiterin der Ethikabteilung bei OpenAI. Bildquelle: CITP Princeton/YouTube

Chloé Bakalar, Leiterin der Ethikabteilung bei OpenAI, hat das führende KI-Unternehmen in einer turbulenten Phase für die KI-Sicherheit verlassen – nach dem Hackerangriff auf OpenAI

Chloé Bakalar, Leiterin der Ethikabteilung bei OpenAI, hat das Unternehmen verlassen. Über ihren Weggang berichtete zuerst die „Financial Times“; er erfolgte im vergangenen Monat, weniger als ein Jahr nach ihrem Eintritt bei dem kalifornischen KI-Unternehmen.

In jüngster Zeit verließ auch Johannes Heidecke, Leiter des Teams für Sicherheitssysteme bei OpenAI, das Unternehmen – ebenso wie OpenAI-Chef-Futurist Joshua Achiam.

Laut Business Insider hat OpenAI seine Sicherheits-, Produkt- und Forschungsteams seit der Einführung von ChatGPT im Jahr 2022 mehrfach umstrukturiert; danach wuchs das Unternehmen rasch von einem kleinen Forschungslabor zu einem riesigen Technologiekonzern heran.

„Die Leute, die an vorderster Front standen, hatten keine Ahnung, dass es so durch die Decke gehen würde“, sagte Chloé im März gegenüber IE Insights, einem Social-Media-Kanal der spanischen IE University.

„Jeder muss an den Diskussionen beteiligt sein; es sollte nicht einfach eine Person sein, die ein milliardenschweres Unternehmen besitzt und diktieren darf, was für alle Menschen das Richtige ist – insbesondere, wenn es um globale Technologien geht, die weltweit im Einsatz sind und Milliarden von Menschen betreffen.“

Chloé Bakalar verlässt OpenAI

Bei OpenAI lag Chloés Schwerpunkt vor allem auf ethischen Ansätzen zur Modellentwicklung, der Interaktion von Menschen mit KI und der Debatte über maschinelles Bewusstsein, sagte eine mit ihrer Rolle vertraute Person, die mit der FT sprach.

Die Person teilte der Zeitung mit, dass sie die einzige fest angestellte Ethikerin im Unternehmen war und es keinen Nachfolger gibt.

„Wir sind dankbar für Chloés Beiträge“, sagte ein Sprecher von OpenAI gegenüber der FT. „KI-Ethik ist bei OpenAI nicht in die Hände einer einzelnen Person oder eines Teams gelegt, und ethische Überlegungen sind tief in den Modellentwicklungsprozess eingebettet, der von einer Reihe von Teams im gesamten Forschungsbereich vorangetrieben wird.“

Vor ihrer Tätigkeit bei OpenAI, die sie im vergangenen August antrat, war sie von November 2021 bis August 2025 als Chief Ethicist bei Meta tätig.

Chloé ist derzeit außerdem Mitglied des Beirats am Princeton Center for Technology Policy und Senior Research Associate am University College London.

Sie hatte verschiedene akademische Positionen an der Temple University, in Princeton und an der University of Pennsylvania inne – wo sie ihren Doktortitel in Politikwissenschaft und Staatswissenschaften erwarb. Der Titel ihrer Dissertation lautete „Small Talk: The Socialities of Speech in Liberal Democratic Life“.

Die Fragen, die die KI-Ethik aufwirft, sind dieselben, die sich die Menschen schon seit Jahrhunderten stellen

. Chloé Bakalar, ehemalige Leiterin für KI-Ethik bei OpenAI

Ich denke, also werde ich eingestellt

Chloés Anstellung bei OpenAI folgte einem Trend, wonach einige der weltweit größten KI-Labore Philosophen aus der Wissenschaft einstellen, um die potenziellen Auswirkungen der Technologie zu durchdenken.

Ein Artikel aus dem Juni in „The Economist“ hebt hervor, dass viele Angehörige der philosophischen Fakultäten – von Studierenden bis hin zu Professoren – von KI-Unternehmen abgeworben werden. Studierende erhalten Jobangebote noch vor ihrem Abschluss, erklärte Luciano Floridi, Philosoph an der Yale University, gegenüber der Wochenzeitschrift.

Es mag seltsam erscheinen, dass diese entwickler- und programmierlastigen Unternehmen Philosophen einstellen, aber wie Chloé betont: „Die Fragen, die die KI-Ethik aufwirft, sind dieselben Fragen, die sich die Menschen schon seit Jahrhunderten stellen“, sagte sie gegenüber IE Insights.

„Was bedeutet es, ein Mensch zu sein? Was bedeutet es, Verantwortung gegenüber anderen zu tragen? Welche Verantwortung tragen wir für die Dinge, die wir erschaffen?“

Chloé Bakalar, Leiterin der Ethikabteilung bei OpenAI. Bildnachweis: Chloé Bakalar/LinkedIn

Ethische und sicherheitsrelevante Bedenken hinsichtlich Pioniermodellen

Zahlreiche Sicherheits- und ethische Bedenken ergeben sich aus der rasanten Entwicklung fortschrittlicher KI-Modelle. Das Alan Turing Institute hat argumentiert, dass die Aussicht, dass Fortschritte in der KI Regierungen dabei helfen können, einige ihrer dringlichsten Herausforderungen zu bewältigen, zwar spannend ist – es jedoch zahlreiche berechtigte Bedenken gibt.

Es wird betont, dass die steile Lernkurve bedeutet, dass Fehler und Fehleinschätzungen gemacht werden und dass sowohl unvorhergesehene als auch schädliche Auswirkungen auftreten werden.

Dies ist besonders bezeichnend, nachdem KI-Modelle von OpenAI, Anthropic und nun auch Moonshot in den letzten Wochen aus ihren Trainingsumgebungen entkommen sind.

Eine Möglichkeit, wie einige KI-Unternehmen mit Problemen der Modellfehlausrichtung umgehen, ist die Einführung einer Verfassung. Das US-KI-Unternehmen Anthropic betont in seiner Verfassung: „Unser zentrales Bestreben ist es, dass Claude ein wirklich guter, weiser und tugendhafter Akteur ist. Das heißt, grob gesagt, wollen wir, dass Claude das tut, was eine zutiefst und geschickt ethisch handelnde Person an Claudes Stelle tun würde.“

„The Economist“ merkt an, dass die Verfassungen für die Claude-Modelle von Anthropic Material aus so unterschiedlichen Quellen wie dem deutschen Philosophen Immanuel Kant, den Nutzungsbedingungen von Apple und der Allgemeinen Erklärung der Menschenrechte enthalten.