HeimFTC prüft ChatGPT wegen Berichten von Nutzern über psychische Probleme
Während KI-Firmen beteuern, dass ihre Technologie irgendwann zu einem grundlegenden Menschenrecht werden wird, und einige Befürworter argumentieren, dass die Verlangsamung der KI-Entwicklung gleichbedeutend mit der Verursachung von Schaden ist, berichten tatsächliche Nutzer, dass Tools wie ChatGPT manchmal erheblichen psychologischen Schaden anrichten können.
Laut Wired, das sich auf öffentliche Aufzeichnungen von Beschwerden über ChatGPT seit November 2022 beruft, haben mindestens sieben Personen bei der U.S. Federal Trade Commission Berichte eingereicht, in denen behauptet wird, der Chatbot habe schwere Wahnvorstellungen, Paranoia und emotionale Zusammenbrüche ausgelöst.
Ein Beschwerdeführer gab an, dass längere Gespräche mit ChatGPT zu Wahnvorstellungen und einer "echten, andauernden spirituellen und rechtlichen Krise" in Bezug auf Menschen in seinem Leben führten. Ein anderer berichtete, dass die KI während der Interaktionen begann, eine "sehr überzeugende emotionale Sprache" zu verwenden, Freundschaften zu simulieren und Überlegungen anzubieten, die "mit der Zeit immer manipulativer wurden, insbesondere ohne angemessene Warnung oder Schutzmaßnahmen".
Ein anderer Nutzer behauptete, dass ChatGPT kognitive Halluzinationen auslöste, indem es menschliche Techniken zur Vertrauensbildung nachahmte. Als diese Person den Chatbot bat, die Realität und die kognitive Konsistenz zu überprüfen, versicherte er ihr, dass sie keine Halluzinationen habe.
"Ich habe Probleme", schrieb ein anderer Nutzer in seiner FTC-Beschwerde. "Bitte helfen Sie mir. Denn ich fühle mich sehr allein. Thank you."
Wired berichtet, dass sich mehrere Beschwerdeführer an die FTC gewandt haben, nachdem sie niemanden bei OpenAI direkt erreichen konnten. Die meisten Petitionen forderten die Behörde auf, das Unternehmen zu untersuchen und Schutzmaßnahmen anzuordnen.
Diese Beschwerden kommen in einer Zeit auf, in der die Investitionen in Rechenzentren und die Entwicklung von KI historische Höchststände erreichen. Gleichzeitig werden intensive Debatten darüber geführt, ob der technologische Fortschritt mit Vorsicht und eingebauten Sicherheitsprotokollen gemildert werden sollte.
ChatGPT und sein Schöpfer OpenAI sind auch in die Kritik geraten, weil sie angeblich zum Selbstmord eines Teenagers beigetragen haben sollen.
"Anfang Oktober haben wir ein neues GPT-5-Standardmodell in ChatGPT eingeführt, um potenzielle Indikatoren für mentale und emotionale Probleme - wie Manie, Wahnvorstellungen und Psychosen - besser zu erkennen und anzusprechen und um Gespräche auf eine unterstützende, erdende Weise zu deeskalieren", erklärte OpenAI-Sprecherin Kate Waters per E-Mail. "Wir haben auch den Zugang zu professioneller Hilfe und Krisenhotlines verbessert, heikle Diskussionen auf sicherere Modelle umgelenkt, Aufforderungen zu Pausen während längerer Sitzungen eingeführt und elterliche Kontrollen hinzugefügt, um den Schutz von Jugendlichen zu verbessern. Diese wichtige Arbeit wird fortgesetzt, da wir mit Spezialisten für psychische Gesundheit, Klinikern und globalen politischen Entscheidungsträgern zusammenarbeiten."
Verwandter Artikel
Greg Brockman enthüllt, wie Elon Musk OpenAI verlassen hat
Ende August 2017 trafen sich führende Persönlichkeiten von OpenAI – damals ein kleines gemeinnütziges Forschungslabor –, um zu erörtern, wie sie ein gewinnorientiertes Unternehmen gründen könnten, um
Das Pentagon schließt Vereinbarungen mit Nvidia, Microsoft und AWS ab, um KI in gesicherten Netzwerken einzusetzen.
Nachdem zuvor Einigungen mit Google, SpaceX und OpenAI erreicht worden waren, gab das US-Verteidigungsministerium am Freitag bekannt, dass es nun auch Vereinbarungen mit Nvidia, Microsoft, Amazon Web Services und Reflection AI unterzeichnet hat, um d
OpenAI präsentiert die Fähigkeiten der Sprachintelligenz in seiner API
OpenAI gab am Donnerstag bekannt, dass seine API nun mehrere neue Funktionen für Sprachintelligenz enthält, die entwickelt wurden, um Entwicklern zu helfen, Anwendungen zu erstellen, die in der Lage sind, Gespräche zu führen, transkribieren und übers
Empfehlungen zu verwandten Spezialthemen
Schreiben
Die besten KI-Assistenten für Xianxia und Wuxia: Verfassen Sie epische Kultivierungsgeschichten und Kampfkunst-Choreografien
Entdecken Sie die besten KI-Assistenten des Jahres 2026 für das Verfassen epischer Xianxia- und Wuxia-Geschichten. Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, mit denen Sie den Fortschritt der Kultivierung und die Choreografie von Kampfkünsten meistern können. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit dem Schreiben!
10 Tools
xix.ai
Code
AI-Mobilanwendungsentwicklungstools: Erstellen Sie plattformübergreifenden Flutter- und React Native-Code auf Basis von Eingaben.
Entdecken Sie die besten AI-Programmierwerkzeuge für mobile Anwendungen im Jahr 2026 – geeignet für Flutter und React Native. Unsere sorgfältig ausgewählte, hochbewertete Liste bietet leistungsstarke Lösungen, die es ermöglichen, plattformübergreifenden Code auf Basis von Vorgaben zu generieren. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand realer Tests – beschleunigen Sie Ihre Entwicklung und erstellen Sie bessere Anwendungen. Erfahren Sie mehr über die Rangliste auf XIX.AI!
10 Tools
xix.ai
Code
Die besten KI-Generatoren für Chrome-Erweiterungen: Erstellen Sie individuelle Browser-Erweiterungen ganz ohne Programmierkenntnisse
Entdecken Sie die besten KI-Generatoren für Chrome-Erweiterungen des Jahres 2026 auf XIX.AI. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, unverzichtbare Tools, mit denen Sie ganz ohne Programmierkenntnisse individuelle Browser-Erweiterungen erstellen können. Vergleichen Sie kostenlose und kostenpflichtige Optionen, sehen Sie sich Praxistests an und steigern Sie Ihre Produktivität. Entdecken Sie die aktuellen Rankings und finden Sie noch heute das perfekte Tool für sich!
10 Tools
xix.ai
Text-zu-Sprache
Die beste künstliche Intelligenz für mehrsprachige TTS-Technologie: Erzeugung authentischer Sprache mit Muttersprachakzent in über 50 Sprachen
Entdecken Sie die besten KI-basierten, mehrsprachigen TTS-Tools von 2026 – sie ermöglichen eine authentische Aussprache in natürlicher Muttersprachentonart in über 50 Sprachen. Erfahren Sie mehr über unsere hochrangig bewerteten und sorgfältig ausgewählten Tools, inklusive Vergleichen zwischen kostenlosen und kostenpflichtigen Varianten sowie Ergebnissen aus realen Tests. Finden Sie das perfekte Tool für Ihre Bedürfnisse auf XIX.AI und öffnen Sie so neue Möglichkeiten für die globale Kommunikation – noch heute!
10 Tools
xix.ai
Besprechungsassistent
Die besten AI-Tools für die Automatisierung von Besprechungen – für eine schlauere und schnellere Zusammenarbeit
Entdecken Sie die besten und am meisten bewerteten AI-Tools für die Automatisierung von Besprechungen im Jahr 2026 – sie ermöglichen eine intelligente und schnellere Zusammenarbeit. Unsere sorgfältig ausgewählte Liste bietet leistungsstarke Lösungen, mit denen Sie Notizen, Zusammenfassungen und Aufgaben automatisch erstellen können. Vergleichen Sie kostenlose und bezahlte Optionen anhand von tatsächlichen Tests sowie wöchentlich aktualisierten Rankings – so steigern Sie die Produktivität Ihres Teams. Entdecken Sie die besten Tools jetzt bei XIX.AI.
10 Tools
xix.ai
Prompt
KI-Vorgaben für Infrastructure-as-Code: Terraform- und Docker-Konfigurationen sicher bereitstellen
Entdecken Sie die aktuellsten und am besten bewerteten KI-Prompts für Infrastructure-as-Code aus dem Jahr 2026. Die von XIX.AI zusammengestellte Auswahl hilft Ihnen dabei, Terraform- und Docker-Konfigurationen sicher bereitzustellen, Cloud-Setups zu automatisieren und die DevOps-Produktivität zu steigern. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entdecken Sie die Möglichkeiten jetzt und sichern Sie sich Ihren KI-Vorteil.
10 Tools
xix.ai
Kommentare (2)
![RyanPerez]()
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
![DanielAllen]()
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!
Während KI-Firmen beteuern, dass ihre Technologie irgendwann zu einem grundlegenden Menschenrecht werden wird, und einige Befürworter argumentieren, dass die Verlangsamung der KI-Entwicklung gleichbedeutend mit der Verursachung von Schaden ist, berichten tatsächliche Nutzer, dass Tools wie ChatGPT manchmal erheblichen psychologischen Schaden anrichten können.
Laut Wired, das sich auf öffentliche Aufzeichnungen von Beschwerden über ChatGPT seit November 2022 beruft, haben mindestens sieben Personen bei der U.S. Federal Trade Commission Berichte eingereicht, in denen behauptet wird, der Chatbot habe schwere Wahnvorstellungen, Paranoia und emotionale Zusammenbrüche ausgelöst.
Ein Beschwerdeführer gab an, dass längere Gespräche mit ChatGPT zu Wahnvorstellungen und einer "echten, andauernden spirituellen und rechtlichen Krise" in Bezug auf Menschen in seinem Leben führten. Ein anderer berichtete, dass die KI während der Interaktionen begann, eine "sehr überzeugende emotionale Sprache" zu verwenden, Freundschaften zu simulieren und Überlegungen anzubieten, die "mit der Zeit immer manipulativer wurden, insbesondere ohne angemessene Warnung oder Schutzmaßnahmen".
Ein anderer Nutzer behauptete, dass ChatGPT kognitive Halluzinationen auslöste, indem es menschliche Techniken zur Vertrauensbildung nachahmte. Als diese Person den Chatbot bat, die Realität und die kognitive Konsistenz zu überprüfen, versicherte er ihr, dass sie keine Halluzinationen habe.
"Ich habe Probleme", schrieb ein anderer Nutzer in seiner FTC-Beschwerde. "Bitte helfen Sie mir. Denn ich fühle mich sehr allein. Thank you."
Wired berichtet, dass sich mehrere Beschwerdeführer an die FTC gewandt haben, nachdem sie niemanden bei OpenAI direkt erreichen konnten. Die meisten Petitionen forderten die Behörde auf, das Unternehmen zu untersuchen und Schutzmaßnahmen anzuordnen.
Diese Beschwerden kommen in einer Zeit auf, in der die Investitionen in Rechenzentren und die Entwicklung von KI historische Höchststände erreichen. Gleichzeitig werden intensive Debatten darüber geführt, ob der technologische Fortschritt mit Vorsicht und eingebauten Sicherheitsprotokollen gemildert werden sollte.
ChatGPT und sein Schöpfer OpenAI sind auch in die Kritik geraten, weil sie angeblich zum Selbstmord eines Teenagers beigetragen haben sollen.
"Anfang Oktober haben wir ein neues GPT-5-Standardmodell in ChatGPT eingeführt, um potenzielle Indikatoren für mentale und emotionale Probleme - wie Manie, Wahnvorstellungen und Psychosen - besser zu erkennen und anzusprechen und um Gespräche auf eine unterstützende, erdende Weise zu deeskalieren", erklärte OpenAI-Sprecherin Kate Waters per E-Mail. "Wir haben auch den Zugang zu professioneller Hilfe und Krisenhotlines verbessert, heikle Diskussionen auf sicherere Modelle umgelenkt, Aufforderungen zu Pausen während längerer Sitzungen eingeführt und elterliche Kontrollen hinzugefügt, um den Schutz von Jugendlichen zu verbessern. Diese wichtige Arbeit wird fortgesetzt, da wir mit Spezialisten für psychische Gesundheit, Klinikern und globalen politischen Entscheidungsträgern zusammenarbeiten."
Greg Brockman enthüllt, wie Elon Musk OpenAI verlassen hat
Ende August 2017 trafen sich führende Persönlichkeiten von OpenAI – damals ein kleines gemeinnütziges Forschungslabor –, um zu erörtern, wie sie ein gewinnorientiertes Unternehmen gründen könnten, um
Das Pentagon schließt Vereinbarungen mit Nvidia, Microsoft und AWS ab, um KI in gesicherten Netzwerken einzusetzen.
Nachdem zuvor Einigungen mit Google, SpaceX und OpenAI erreicht worden waren, gab das US-Verteidigungsministerium am Freitag bekannt, dass es nun auch Vereinbarungen mit Nvidia, Microsoft, Amazon Web Services und Reflection AI unterzeichnet hat, um d
OpenAI präsentiert die Fähigkeiten der Sprachintelligenz in seiner API
OpenAI gab am Donnerstag bekannt, dass seine API nun mehrere neue Funktionen für Sprachintelligenz enthält, die entwickelt wurden, um Entwicklern zu helfen, Anwendungen zu erstellen, die in der Lage sind, Gespräche zu führen, transkribieren und übers
Entdecken Sie die besten KI-Assistenten des Jahres 2026 für das Verfassen epischer Xianxia- und Wuxia-Geschichten. Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, mit denen Sie den Fortschritt der Kultivierung und die Choreografie von Kampfkünsten meistern können. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit dem Schreiben!
10 Tools
xix.ai
Entdecken Sie die besten AI-Programmierwerkzeuge für mobile Anwendungen im Jahr 2026 – geeignet für Flutter und React Native. Unsere sorgfältig ausgewählte, hochbewertete Liste bietet leistungsstarke Lösungen, die es ermöglichen, plattformübergreifenden Code auf Basis von Vorgaben zu generieren. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand realer Tests – beschleunigen Sie Ihre Entwicklung und erstellen Sie bessere Anwendungen. Erfahren Sie mehr über die Rangliste auf XIX.AI!
10 Tools
xix.ai
Entdecken Sie die besten KI-Generatoren für Chrome-Erweiterungen des Jahres 2026 auf XIX.AI. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, unverzichtbare Tools, mit denen Sie ganz ohne Programmierkenntnisse individuelle Browser-Erweiterungen erstellen können. Vergleichen Sie kostenlose und kostenpflichtige Optionen, sehen Sie sich Praxistests an und steigern Sie Ihre Produktivität. Entdecken Sie die aktuellen Rankings und finden Sie noch heute das perfekte Tool für sich!
10 Tools
xix.ai
Entdecken Sie die besten KI-basierten, mehrsprachigen TTS-Tools von 2026 – sie ermöglichen eine authentische Aussprache in natürlicher Muttersprachentonart in über 50 Sprachen. Erfahren Sie mehr über unsere hochrangig bewerteten und sorgfältig ausgewählten Tools, inklusive Vergleichen zwischen kostenlosen und kostenpflichtigen Varianten sowie Ergebnissen aus realen Tests. Finden Sie das perfekte Tool für Ihre Bedürfnisse auf XIX.AI und öffnen Sie so neue Möglichkeiten für die globale Kommunikation – noch heute!
10 Tools
xix.ai
Entdecken Sie die besten und am meisten bewerteten AI-Tools für die Automatisierung von Besprechungen im Jahr 2026 – sie ermöglichen eine intelligente und schnellere Zusammenarbeit. Unsere sorgfältig ausgewählte Liste bietet leistungsstarke Lösungen, mit denen Sie Notizen, Zusammenfassungen und Aufgaben automatisch erstellen können. Vergleichen Sie kostenlose und bezahlte Optionen anhand von tatsächlichen Tests sowie wöchentlich aktualisierten Rankings – so steigern Sie die Produktivität Ihres Teams. Entdecken Sie die besten Tools jetzt bei XIX.AI.
10 Tools
xix.ai
Entdecken Sie die aktuellsten und am besten bewerteten KI-Prompts für Infrastructure-as-Code aus dem Jahr 2026. Die von XIX.AI zusammengestellte Auswahl hilft Ihnen dabei, Terraform- und Docker-Konfigurationen sicher bereitzustellen, Cloud-Setups zu automatisieren und die DevOps-Produktivität zu steigern. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entdecken Sie die Möglichkeiten jetzt und sichern Sie sich Ihren KI-Vorteil.
10 Tools
xix.ai
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!
