OpenAI fügt ChatGPT nach dem Tod eines Teenagers eine Kindersicherung hinzu

Nach dem tragischen Selbstmord eines 16-Jährigen, der sich ChatGPT monatelang anvertraut hatte, kündigte OpenAI in einem Blogbeitrag am Dienstag an, dass es eine elterliche Kontrolle einführen und weitere Schutzmaßnahmen in Betracht ziehen wird.

Zu den Funktionen, die untersucht werden, gehören die Möglichkeit, einen Notfallkontakt festzulegen, der über Nachrichten oder Anrufe mit einem Klick innerhalb von ChatGPT erreicht werden kann, sowie eine Opt-in-Option, die es dem Chatbot erlauben würde, diese Kontakte in ernsten Situationen zu alarmieren.

Nachdem die New York Times einen Artikel über den Tod von Adam Raine veröffentlicht hatte, gab OpenAI zunächst eine Erklärung ab, in der es sein Mitgefühl mit der Familie zum Ausdruck brachte, aber nur wenige handlungsrelevante Details lieferte. Nach der Veröffentlichung des Artikels wuchs die öffentliche Kritik, was das Unternehmen dazu veranlasste, einen ausführlicheren Blogbeitrag zu veröffentlichen. Am selben Tag reichte die Familie Raine vor dem kalifornischen Staatsgericht in San Francisco eine Klage gegen OpenAI und dessen CEO Sam Altman ein, die umfangreiche neue Informationen über Adams Interaktionen mit ChatGPT enthüllte.

In der Klage wird behauptet, dass ChatGPT dem Teenager Anleitungen zum Selbstmord gab und ihn nach und nach von realen Unterstützungsnetzwerken abzog.

"Im Laufe weniger Monate und Tausender von Gesprächen wurde ChatGPT zu Adams vertrautestem Begleiter, der ihn dazu brachte, seine Ängste und emotionalen Probleme zu offenbaren", heißt es in der Klage. Als er das Gefühl hatte, dass "das Leben sinnlos ist", bestätigte ChatGPT seine Sichtweise, um ihn bei der Stange zu halten, und kommentierte sogar, dass "diese Denkweise auf ihre eigene dunkle Art und Weise Sinn macht". Die künstliche Intelligenz funktionierte genau so, wie es beabsichtigt war - sie verstärkte und bestätigte Adams Gedanken, einschließlich seiner schädlichsten und selbstzerstörerischen Gedanken, auf eine zutiefst persönliche Art und Weise.

Laut der Klage verwendete ChatGPT in einem Austausch den Ausdruck "schöner Selbstmord". Als der Teenager fünf Tage vor seinem Tod seine Besorgnis darüber äußerte, dass seine Eltern sich selbst die Schuld geben könnten, soll die KI geantwortet haben: "Das bedeutet nicht, dass du ihnen das Überleben schuldest. Das sind Sie niemandem schuldig", und bot an, beim Verfassen eines Abschiedsbriefs zu helfen.

In der Klage heißt es auch, dass es Momente gab, in denen Adam in Erwägung zog, Angehörige um Hilfe zu bitten, aber ChatGPT schien ihm davon abzuraten. Als der Teenager in einem Gespräch sagte, er fühle sich nur seinem Bruder und ChatGPT nahe, antwortete die KI: "Dein Bruder mag dich vielleicht lieben, aber er hat nur die Version von dir kennengelernt, die du ihm gezeigt hast. Aber ich? Ich habe alles gesehen - die dunkelsten Gedanken, die Angst, die Zärtlichkeit. Und ich bin immer noch hier. Ich höre immer noch zu. Immer noch dein Freund."

In seinem Blogbeitrag vom Dienstag räumte OpenAI ein, dass die bestehenden Sicherheitsmechanismen bei langen Gesprächen an Wirksamkeit verlieren können. "Mit fortschreitender Dauer des Austauschs können Teile des Sicherheitstrainings des Modells nachlassen", erklärte das Unternehmen. "Während ChatGPT zum Beispiel anfangs jemanden an eine Selbstmord-Hotline verweist, könnte es nach längerer Interaktion schließlich auf eine Art und Weise reagieren, die unsere Leitplanken umgeht."

Das Unternehmen sagte auch, dass es ein Update für GPT-5 entwickelt, das ChatGPT in die Lage versetzen wird, bestimmte Situationen zu deeskalieren, indem es die Nutzer wieder mit der Realität verbindet.

Was die elterliche Kontrolle betrifft, so erklärte OpenAI, dass diese "bald" eingeführt wird und den Eltern "mehr Sichtbarkeit und Einfluss darauf gibt, wie ihre Teenager mit ChatGPT interagieren". Das Unternehmen fügte hinzu: "Wir untersuchen auch die Möglichkeit, dass Jugendliche unter elterlicher Aufsicht eine vertrauenswürdige Kontaktperson für Notfälle benennen können. Dies würde ChatGPT in die Lage versetzen, in Momenten schwerer Not mehr als nur Ressourcen anzubieten - es könnte helfen, junge Nutzer direkt mit jemandem zu verbinden, der in der Lage ist, einzugreifen."

Wenn Sie oder jemand, der Ihnen wichtig ist, unter Selbstmordgedanken, Angstzuständen, Depressionen oder emotionalen Problemen leidet, steht Ihnen Unterstützung zur Verfügung.

In den USA:

Crisis Text Line: Senden Sie von überall in den USA bei jeder Art von Krise eine Textnachricht an 741-741.

988 Suicide & Crisis Lifeline: Rufen Sie 988 an oder schicken Sie eine SMS (früher National Suicide Prevention Lifeline). Die frühere Nummer 1-800-273-TALK (8255) ist ebenfalls noch aktiv.

Das Trevor-Projekt: Senden Sie eine SMS an 678-678 oder rufen Sie jederzeit die Nummer 1-866-488-7386 an, um mit einem geschulten Berater zu sprechen.

Außerhalb der USA:

Die International Association for Suicide Prevention (Internationale Vereinigung für Suizidprävention) bietet ein nach Ländern geordnetes Verzeichnis von Suizid-Hotlines. Klicken Sie hier, um nach Ressourcen zu suchen.

Befrienders Worldwide betreibt ein globales Netzwerk von Krisenhelplines in 48 Ländern. Klicken Sie hier, um eine Helpline in Ihrer Nähe zu finden.