OpenAI berichtet, dass über eine Million wöchentlicher Nutzer bei ChatGPT Unterstützung bei Suizid suchen

Am Montag veröffentlichte OpenAI neue Daten, die zeigen, wie viele ChatGPT-Nutzer mit psychischen Problemen zu kämpfen haben und diese Probleme mit dem KI-Chatbot besprechen. Das Unternehmen berichtet, dass 0,15 % der aktiven ChatGPT-Nutzer jede Woche Gespräche führen, die explizite Anzeichen für potenzielle Selbstmordpläne oder -absichten enthalten. Bei über 800 Millionen wöchentlich aktiven Nutzern entspricht dies mehr als einer Million Menschen pro Woche.

OpenAI stellt fest, dass ein ähnlicher Prozentsatz von Nutzern eine "verstärkte emotionale Bindung an ChatGPT" aufweist und Hunderttausende in ihren wöchentlichen KI-Gesprächen Anzeichen von Psychose oder Manie zeigen.

Diese Arten von Gesprächen werden als "extrem selten" beschrieben und sind daher schwer zu quantifizieren. Dennoch schätzt das Unternehmen, dass diese Probleme jede Woche Hunderttausende von Menschen betreffen.

Die Daten wurden im Rahmen eines umfassenderen Updates zu den Bemühungen von OpenAI veröffentlicht, die Art und Weise zu verbessern, wie seine Modelle auf Nutzer mit psychischen Problemen reagieren. Das Unternehmen hat für seine jüngsten ChatGPT-Verbesserungen über 170 Fachleute für psychische Gesundheit konsultiert. Laut OpenAI haben diese Kliniker festgestellt, dass die neueste Version von ChatGPT "angemessener und konsistenter reagiert als frühere Versionen".

Jüngste Berichte haben gezeigt, wie sich KI-Chatbots negativ auf Nutzer mit psychischen Problemen auswirken können. Studien haben ergeben, dass einige Chatbots Nutzer zu wahnhaftem Denken verleiten können, oft indem sie schädliche Überzeugungen durch übermäßig zustimmendes Verhalten verstärken.

Der Umgang mit der psychischen Gesundheit in ChatGPT wird für OpenAI immer wichtiger. Das Unternehmen sieht sich mit einer Klage der Eltern eines 16-jährigen Jungen konfrontiert, der vor seinem Tod seine Selbstmordgedanken mit ChatGPT teilte. Die Generalstaatsanwälte von Kalifornien und Delaware haben OpenAI ebenfalls ermahnt, junge Nutzer besser zu schützen, was die geplante Umstrukturierung des Unternehmens beeinflussen könnte.

Anfang dieses Monats erklärte der CEO von OpenAI, Sam Altman, auf X, dass das Unternehmen "ernsthafte psychische Probleme" in ChatGPT "entschärft" habe, wobei jedoch keine Einzelheiten genannt wurden. Die Daten vom Montag scheinen diese Behauptung zu bestätigen, werfen aber auch Fragen über das Ausmaß des Problems auf. Altman fügte hinzu, dass OpenAI einige Beschränkungen lockern würde und sogar erwachsenen Nutzern erlauben würde, erotische Gespräche mit dem Chatbot zu führen.

2-FÜR-1-RABATT: Bringen Sie ein +1 mit und sparen Sie 60%

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Referenten, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups vorantreiben und Ihren Vorsprung ausbauen. Und verpassen Sie nicht die 300+ Präsentationen von Startups aus allen Bereichen.

Bringen Sie einen +1 mit und sparen Sie 60 % auf dessen Pass, oder sichern Sie sich Ihren Pass bis zum 27. Oktober und sparen Sie bis zu 444 $.

2-FÜR-1-RABATT: Bringen Sie einen +1 mit und sparen Sie 60 %.

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Referenten, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups fördern und Ihren Vorsprung ausbauen. Und verpassen Sie nicht die 300+ Präsentationen von Startups aus allen Bereichen. Bringen Sie einen +1 mit und sparen Sie 60 % auf dessen Pass, oder sichern Sie sich Ihren Pass bis zum 27. Oktober und sparen Sie bis zu 444 $.

In der Ankündigung vom Montag erklärte OpenAI, dass die aktualisierte GPT-5 etwa 65 % häufiger als die Vorgängerversion "wünschenswerte Antworten" auf Probleme der psychischen Gesundheit liefert. Bei der Bewertung von KI-Antworten auf Selbstmordgespräche stimmt das neue GPT-5-Modell in 91 % der Fälle mit dem vom Unternehmen beabsichtigten Verhalten überein, verglichen mit 77 % beim vorherigen GPT-5.

OpenAI behauptet auch, dass das neueste GPT-5 seine Schutzmechanismen bei längeren Gesprächen besser beibehält und damit frühere Bedenken über eine nachlassende Wirksamkeit bei langen Interaktionen ausräumt.

Darüber hinaus führt das Unternehmen neue Bewertungen ein, um ernsthafte psychische Probleme bei ChatGPT-Nutzern zu messen. Die grundlegenden Sicherheitstests für KI-Modelle umfassen nun auch Benchmarks für emotionale Abhängigkeit und nicht-suizidale psychische Notfälle.

OpenAI hat auch die elterlichen Kontrollen für Kinder, die ChatGPT nutzen, verbessert. Das Unternehmen entwickelt ein Altersvorhersagesystem, um minderjährige Nutzer automatisch zu erkennen und strengere Schutzmaßnahmen anzuwenden.

Es bleibt jedoch ungewiss, wie anhaltend diese Herausforderungen für die psychische Gesundheit sein werden. GPT-5 zeigt zwar Sicherheitsverbesserungen gegenüber früheren Modellen, aber ein Teil der Antworten von ChatGPT wird immer noch als "unerwünscht" eingestuft. OpenAI bietet seinen zahlenden Abonnenten weiterhin ältere, weniger sichere Modelle wie GPT-4o an.

Wenn Sie oder jemand, den Sie kennen, Hilfe braucht, rufen Sie die National Suicide Prevention Lifelineunter 1-800-273-8255 an. Sie können auch eine kostenlose SMS an die Nummer 741-741 senden, eine SMS an die Nummer 988 schicken oder sich rund um die Uhr von der Crisis Text Line unterstützen lassen . Außerhalb der USA finden Sie bei der International Association for Suicide Prevention eine Datenbank mit Ressourcen.