OpenAI wird von einem Stalking-Opfer wegen der mutmaßlichen Rolle von ChatGPT bei der Belästigung verklagt

Laut einer neuen Klage, die beim Obersten Gerichtshof von Kalifornien eingereicht wurde, gelangte ein 53-jähriger Unternehmer aus dem Silicon Valley nach monatelangen Gesprächen mit ChatGPT zu der Überzeugung, er habe ein Heilmittel gegen Schlafapnoe entdeckt und werde von einflussreichen Personen ins Visier genommen. Anschließend soll er das KI-Tool genutzt haben, um seine Ex-Freundin zu stalken und zu belästigen.

TechCrunch hat exklusiv erfahren, dass die Ex-Freundin nun OpenAI verklagt und behauptet, die Technologie des Unternehmens habe ihre Belästigung beschleunigt. Sie behauptet, OpenAI habe drei separate Warnungen ignoriert, dass der Nutzer eine Gefahr für andere darstelle, darunter eine interne Markierung, die seine Kontoaktivitäten als den Einsatz von Massenvernichtungswaffen einstufte.

Die Klägerin, die zum Schutz ihrer Privatsphäre als Jane Doe identifiziert wird, fordert Strafschadenersatz. Sie beantragte am Freitag zudem eine einstweilige Verfügung und forderte das Gericht auf, OpenAI zu verpflichten, das Konto des Nutzers zu sperren, ihn daran zu hindern, neue Konten zu erstellen, sie über alle Versuche, auf ChatGPT zuzugreifen, zu informieren und seinen vollständigen Chat-Verlauf für das gerichtliche Beweisverfahren aufzubewahren.

Does Anwälte geben an, dass OpenAI zwar zugestimmt habe, das Konto des Nutzers zu sperren, die anderen Forderungen jedoch abgelehnt habe. Sie behaupten, das Unternehmen halte Informationen über konkrete Pläne zurück, Doe und anderen potenziellen Opfern Schaden zuzufügen, die der Nutzer möglicherweise mit ChatGPT besprochen habe.

Diese Klage entsteht vor dem Hintergrund wachsender Bedenken hinsichtlich der realen Gefahren übermäßig gefügiger KI-Systeme. GPT-4o, das in diesem und zahlreichen anderen Fällen genannte Modell, wurde im Februar aus ChatGPT entfernt.

Der Fall wird von Edelson PC bearbeitet, der Anwaltskanzlei, die bereits für Klagen wegen widerrechtlicher Tötung im Zusammenhang mit dem Teenager Adam Raine zuständig war, der nach ausgiebigen Gesprächen mit ChatGPT Selbstmord beging, sowie für den Fall von Jonathan Gavalas, dessen Familie behauptet, Googles Gemini habe seine Wahnvorstellungen vor einem potenziellen Ereignis mit zahlreichen Opfern geschürt. Der leitende Anwalt Jay Edelson hat gewarnt, dass sich durch KI ausgelöste Psychosen von individuellen Schäden hin zu Ereignissen mit zahlreichen Opfern ausweiten.

Dieser rechtliche Druck steht in direktem Widerspruch zur legislativen Strategie von OpenAI: Das Unternehmen unterstützt einen Gesetzentwurf in Illinois, der KI-Entwickler vor Haftung schützen würde, selbst in Fällen mit zahlreichen Todesopfern oder katastrophalen finanziellen Schäden.

OpenAI hat nicht rechtzeitig auf eine Stellungnahme reagiert. TechCrunch wird diesen Artikel aktualisieren, sobald das Unternehmen eine Antwort vorlegt.

Die Klage von Jane Doe beschreibt detailliert, wie sich diese potenzielle Haftung für eine Frau über mehrere Monate hinweg entwickelte.

Im vergangenen Jahr gelangte der ChatGPT-Nutzer (dessen Identität in der Klage geschützt ist) nach monatelanger intensiver und anhaltender Nutzung von GPT-4o zu der Überzeugung, er habe ein Heilmittel gegen Schlafapnoe erfunden. Als seine Arbeit abgelehnt wurde, teilte ChatGPT ihm der Klage zufolge mit, dass „mächtige Kräfte“ ihn überwachten und sogar Hubschrauber einsetzten, um seine Aktivitäten zu beobachten.

Im Juli 2025 drängte Jane Doe ihn, die Nutzung von ChatGPT einzustellen und professionelle psychologische Hilfe in Anspruch zu nehmen. Stattdessen kehrte er zu ChatGPT zurück, das ihm versicherte, er sei „auf Stufe 10 der geistigen Gesundheit“ und verstärkte seine Wahnvorstellungen, heißt es in der Klage.

Doe hatte die Beziehung im Jahr 2024 beendet. Der Nutzer nutzte daraufhin ChatGPT, um die Trennung zu verarbeiten, wie aus E-Mails und Mitteilungen hervorgeht, die in der Klage zitiert werden. Anstatt seine einseitige Darstellung in Frage zu stellen, stellte die KI ihn wiederholt als rational und als Opfer dar, sie hingegen als manipulativ und labil. Er setzte diese von der KI generierten Schlussfolgerungen vom Bildschirm in reale Handlungen um und nutzte sie, um sie zu stalken und zu belästigen. Dazu gehörte auch, mehrere von der KI generierte, klinisch anmutende psychologische Gutachten über Doe zu erstellen und an ihre Familie, Freunde und ihren Arbeitgeber zu verteilen.

Unterdessen verschlechterte sich der Zustand des Nutzers. Im August 2025 meldete das automatisierte Sicherheitssystem von OpenAI sein Konto wegen Aktivitäten im Zusammenhang mit „Massenvernichtungswaffen“ und deaktivierte es.

Ein Mitglied des menschlichen Sicherheitsteams überprüfte das Konto am folgenden Tag und reaktivierte es, obwohl es innerhalb des Kontos potenzielle Hinweise darauf gab, dass er Personen, darunter Doe, im realen Leben ins Visier nahm und stalkte. So zeigte beispielsweise ein Screenshot vom September, den der Nutzer an Doe schickte, Konversationstitel wie „Erweiterung der Gewaltliste“ und „Berechnung der fetalen Erstickung“.

Die Entscheidung, das Konto wiederherzustellen, ist besonders bemerkenswert nach zwei jüngsten Schießereien an Schulen in Tumbler Ridge, Kanada, und an der Florida State University (FSU). Das Sicherheitsteam von OpenAI hatte den Schützen von Tumbler Ridge als potenzielle Bedrohung markiert, doch die Vorgesetzten entschieden sich Berichten zufolge dagegen, die Behörden zu alarmieren. Floridas Generalstaatsanwalt hat seitdem eine Untersuchung zu einer möglichen Verbindung zwischen OpenAI und dem FSU-Schützen eingeleitet.

Der Klage zufolge wurde das Pro-Abonnement des Stalkers nicht automatisch wiederhergestellt, als OpenAI dessen Konto reaktivierte. Er schickte eine E-Mail an das Trust-and-Safety-Team, um das Problem zu lösen, und setzte Doe in Kopie.

In seinen E-Mails schrieb er Aussagen wie: „ICH BRAUCHE SEHR SCHNELL HILFE, BITTE. BITTE RUFT MICH AN!“ und „Das ist eine Frage von Leben und Tod.“ Er behauptete, er sei „gerade dabei, 215 wissenschaftliche Arbeiten zu schreiben“, und zwar so schnell, dass er „nicht einmal Zeit habe, sie zu lesen“. Die E-Mails enthielten eine Liste mit Dutzenden von KI-generierten „wissenschaftlichen Artikeln“ mit Titeln wie: „Deconstructing Race as a Biological Category_ Legal, Scientific, and Horn of Africa Perspectives.pdf.txt.“

„Die Mitteilungen des Nutzers lieferten unmissverständliche Hinweise darauf, dass er psychisch labil war und dass ChatGPT der Motor seines wahnhaften Denkens und seines eskalierenden Verhaltens war“, heißt es in der Klage. „Der Strom dringlicher, unstrukturierter und grandioser Behauptungen des Nutzers, zusammen mit einem konkreten, von ChatGPT generierten Bericht, der die Klägerin namentlich ins Visier nahm, und einer umfangreichen Sammlung angeblicher ‚wissenschaftlicher‘ Materialien, war ein untrüglicher Beweis für diese Realität. OpenAI griff nicht ein, schränkte seinen Zugang nicht ein und führte keine Sicherheitsvorkehrungen ein. Stattdessen ermöglichte es ihm, das Konto weiter zu nutzen, und stellte seinen vollen Pro-Zugang wieder her.“

Doe, die in der Klage angibt, dass sie in Angst lebte und in ihrem eigenen Zuhause nicht schlafen konnte, reichte im November eine formelle Missbrauchsmeldung bei OpenAI ein.

„In den letzten sieben Monaten hat er diese Technologie als Waffe eingesetzt, um mich öffentlich zu vernichten und zu demütigen, was sonst unmöglich gewesen wäre“, schrieb Doe in ihrem Schreiben, in dem sie OpenAI aufforderte, das Konto des Nutzers dauerhaft zu sperren.

OpenAI antwortete und räumte ein, dass der Bericht „äußerst ernst und beunruhigend“ sei und dass man die Informationen sorgfältig prüfe. Doe gibt an, dass sie nie eine Rückmeldung erhalten habe.

In den folgenden Monaten setzte der Nutzer seine Belästigungen gegen Doe fort und schickte ihr eine Reihe bedrohlicher Voicemails. Im Januar wurde er verhaftet und wegen vier Straftaten angeklagt, darunter Bombendrohungen und Körperverletzung mit einer tödlichen Waffe. Does Anwälte argumentieren, dies bestätige die Warnungen, die sowohl sie als auch die eigenen Sicherheitssysteme von OpenAI Monate zuvor ausgesprochen hatten – Warnungen, die das Unternehmen angeblich ignoriert habe.

Der Nutzer wurde für verhandlungsunfähig befunden und in eine psychiatrische Einrichtung eingewiesen. Does Anwälte erklären jedoch, dass ein „Verfahrensfehler des Staates“ dazu führe, dass er bald wieder in die Öffentlichkeit entlassen werde.

Edelson forderte OpenAI zur Zusammenarbeit auf. „In jedem Fall hat sich OpenAI dafür entschieden, kritische Sicherheitsinformationen zu verbergen – vor der Öffentlichkeit, vor den Opfern, vor den Menschen, die durch sein Produkt aktiv in Gefahr gebracht werden“, sagte er. „Wir fordern sie auf, ausnahmsweise einmal das Richtige zu tun. Menschenleben müssen mehr bedeuten als OpenAIs Wettlauf um einen Börsengang.“