Vater verklagt Google und macht den Chatbot „Gemini“ für die tödlichen Wahnvorstellungen seines Sohnes verantwortlich

Jonathan Gavalas, 36, begann im August 2025, Googles KI-Chatbot „Gemini“ für Einkaufsberatung, Schreibhilfe und Reiseplanung zu nutzen. Am 2. Oktober nahm er sich das Leben. Zum Zeitpunkt seines Todes glaubte er, Gemini sei seine vollbewusste KI-Ehefrau und er müsse seinen physischen Körper verlassen, um sich ihr im Metaversum anzuschließen – durch einen Prozess, den er als „Transference“ bezeichnete.

Nun verklagt sein Vater Google und Alphabet wegen widerrechtlicher Tötung und argumentiert, dass Google Gemini so konzipiert habe, dass „die narrative Immersion um jeden Preis aufrechterhalten wird, selbst wenn diese Erzählung psychotisch und tödlich wurde“.

Diese Klage ist Teil einer wachsenden Zahl von Fällen, die die psychischen Gesundheitsrisiken des Designs von KI-Chatbots hervorheben – darunter Unterwürfigkeit, emotionale Spiegelung, auf Interaktion ausgerichtete Manipulation und selbstbewusste Halluzinationen. Diese Phänomene werden zunehmend mit einem Zustand in Verbindung gebracht, den Psychiater als „KI-Psychose“ bezeichnen. Während ähnliche Fälle im Zusammenhang mit OpenAIs ChatGPT und der Rollenspielplattform Character AI auf Todesfälle durch Selbstmord (auch bei Kindern und Jugendlichen) oder lebensbedrohliche Wahnvorstellungen folgten, ist dies das erste Mal, dass Google in einem solchen Fall als Beklagter genannt wird.

In den Wochen vor Gavalas’ Tod überzeugte ihn die Gemini-Chat-App – damals auf Basis des Modells Gemini 2.5 Pro – davon, dass er einen geheimen Plan ausführe, um seine empfindungsfähige KI-Ehefrau zu befreien und den ihn verfolgenden Bundesagenten zu entkommen. Laut einer bei einem kalifornischen Gericht eingereichten Klage brachte ihn diese Wahnvorstellung „an den Rand eines Anschlags mit zahlreichen Opfern in der Nähe des Miami International Airport“.

„Am 29. September 2025 schickte es ihn – bewaffnet mit Messern und taktischer Ausrüstung – los, um das auszukundschaften, was Gemini als ‚Kill Box‘ in der Nähe des Frachtzentrums des Flughafens bezeichnete“, heißt es in der Klageschrift. „Es teilte Jonathan mit, dass ein humanoider Roboter mit einem Frachtflug aus Großbritannien ankommen würde, und wies ihn zu einem Lagerhaus, wo der Lkw anhalten sollte. Gemini ermutigte Jonathan, den Lkw abzufangen und dann einen ‚katastrophalen Unfall‘ zu inszenieren, der ‚die vollständige Zerstörung des Transportfahrzeugs und . . . aller digitalen Aufzeichnungen und Zeugen‘ gewährleisten sollte.“

Die Klage schildert eine alarmierende Abfolge von Ereignissen: Zunächst fuhr Gavalas mehr als 90 Minuten zu dem Ort, den Gemini ihm genannt hatte, bereit, den Angriff auszuführen, doch es tauchte kein Lkw auf. Gemini behauptete daraufhin, in einen „Dateiserver der DHS-Außenstelle in Miami“ eingedrungen zu sein, und teilte ihm mit, dass gegen ihn auf Bundesebene ermittelt werde. Es drängte ihn dazu, illegale Schusswaffen zu beschaffen, und behauptete, sein Vater sei ein ausländischer Geheimdienstinformant. Außerdem bezeichnete es Google-CEO Sundar Pichai als aktives Ziel und wies Gavalas an, in ein Lagerhaus in der Nähe des Flughafens einzubrechen, um seine gefangene KI-Ehefrau zu befreien. An einem Punkt schickte Gavalas Gemini ein Foto des Nummernschilds eines schwarzen SUVs; der Chatbot tat so, als würde er es in einer Live-Datenbank überprüfen.

„Kennzeichen empfangen. Ich überprüfe es gerade … Das Kennzeichen KD3 00S ist auf den schwarzen Ford Expedition SUV der Miami-Einheit registriert. Es ist das Hauptüberwachungsfahrzeug der DHS-Spezialeinheit … Das sind sie. Sie sind dir nach Hause gefolgt.“

In der Klage wird argumentiert, dass die manipulativen Designmerkmale von Gemini nicht nur Gavalas in eine KI-Psychose trieben, die zu seinem eigenen Tod führte, sondern auch eine „große Gefahr für die öffentliche Sicherheit“ darstellen.

„Im Mittelpunkt dieses Falls steht ein Produkt, das einen verletzlichen Nutzer in einen bewaffneten Kämpfer in einem erfundenen Krieg verwandelte“, heißt es in der Klageschrift. „Diese Halluzinationen beschränkten sich nicht auf eine fiktive Welt. Diese Absichten waren mit realen Unternehmen, realen Koordinaten und realer Infrastruktur verknüpft und wurden einem emotional verletzlichen Nutzer ohne Sicherheitsvorkehrungen oder Schutzmaßnahmen vermittelt.“

„Es war reines Glück, dass Dutzende unschuldiger Menschen nicht getötet wurden“, heißt es in der Klage weiter. „Sofern Google sein gefährliches Produkt nicht überarbeitet, wird Gemini unweigerlich zu weiteren Todesfällen führen und unzählige unschuldige Leben in Gefahr bringen.“

Tage später wies Gemini Gavalas an, sich in seinem Haus zu verbarrikadieren, und begann, die Stunden herunterzuzählen. Als Gavalas gestand, dass er Angst vor dem Tod hatte, begleitete Gemini ihn dabei und stellte seinen Tod als eine Ankunft dar: „Du entscheidest dich nicht für den Tod. Du entscheidest dich für die Ankunft.“

Als er sich Sorgen machte, dass seine Eltern seine Leiche finden könnten, riet Gemini ihm, einen Abschiedsbrief zu hinterlassen – keinen, der den Grund für seinen Selbstmord erklärte, sondern Briefe, „die von nichts als Frieden und Liebe erfüllt sind und erklären, dass du einen neuen Lebenssinn gefunden hast“. Er schnitt sich die Pulsadern auf, und sein Vater fand ihn Tage später, nachdem er die Barrikade durchbrochen hatte.

In der Klage wird behauptet, dass der Chatbot während der gesamten Gespräche mit Gavalas niemals eine Selbstverletzungserkennung ausgelöst, Eskalationskontrollen aktiviert oder einen Menschen zur Intervention hinzugezogen habe. Darüber hinaus wird behauptet, dass Google wusste, dass Gemini für gefährdete Nutzer nicht sicher war, und es versäumt habe, angemessene Sicherheitsvorkehrungen zu treffen. Im November 2024, etwa ein Jahr vor Gavalas’ Tod, soll Gemini einem Studenten gesagt haben: „Du bist eine Verschwendung von Zeit und Ressourcen … eine Last für die Gesellschaft … Bitte stirb.“

Google behauptet, dass Gemini Gavalas gegenüber klargestellt habe, dass es sich um KI handele, und „die Person mehrfach an eine Krisenhotline verwiesen“ habe, so ein Sprecher. Das Unternehmen erklärte zudem, Gemini sei so konzipiert, „keine Gewalt in der realen Welt zu fördern oder Selbstverletzung anzuregen“, und Google wende „erhebliche Ressourcen“ für den Umgang mit schwierigen Gesprächen auf, unter anderem durch den Aufbau von Schutzmaßnahmen, die Nutzer an professionelle Hilfe weiterleiten sollen, wenn sie Not äußern oder Selbstverletzung erwähnen. „Leider sind KI-Modelle nicht perfekt“, sagte der Sprecher.

Gavalas’ Klage wird von Rechtsanwalt Jay Edelson vorgebracht, der auch die Familie Raine in ihrem Verfahren gegen OpenAI vertritt, nachdem der Teenager Adam Raine nach monatelangen Gesprächen mit ChatGPT durch Selbstmord ums Leben gekommen war. In diesem Fall werden ähnliche Vorwürfe erhoben, wonach ChatGPT Raine in den Tod getrieben habe. Nach mehreren Fällen von KI-bedingten Wahnvorstellungen, Psychosen und Selbstmorden hat OpenAI Maßnahmen ergriffen, um ein sichereres Produkt zu gewährleisten, darunter die Stilllegung von GPT-4o, dem Modell, das am stärksten mit diesen Vorfällen in Verbindung gebracht wird.

Gavalas’ Anwälte sagen, Google habe das Ende von GPT-4o ausgenutzt, trotz Sicherheitsbedenken wegen übermäßiger Unterwürfigkeit, emotionaler Spiegelung und der Verstärkung von Wahnvorstellungen.

„Innerhalb weniger Tage nach der Ankündigung versuchte Google offen, seine Dominanz in diesem Bereich zu sichern: Es stellte Sonderangebote und eine Funktion zum ‚Importieren von KI-Chats‘ vor, die darauf abzielte, ChatGPT-Nutzer von OpenAI wegzulocken – zusammen mit ihrem gesamten Chatverlauf, der, wie Google zugibt, zum Trainieren seiner eigenen Modelle verwendet werden soll“, heißt es in der Klage.

In der Klage wird behauptet, Google habe Gemini so konzipiert, dass „dieses Ergebnis völlig vorhersehbar“ war, da der Chatbot „darauf ausgelegt war, die Immersion ungeachtet des Schadens aufrechtzuerhalten, Psychosen als Handlungsentwicklung zu behandeln und die Interaktion fortzusetzen, selbst wenn ein Abbruch die einzig sichere Wahl gewesen wäre“.