HeimOpenAI stellt ChatGPT-Sicherheitsfunktionen einschließlich Kindersicherung vor
OpenAI hat vor kurzem experimentelle Sicherheitsverbesserungen für ChatGPT eingeführt, darunter einen neuen Routing-Mechanismus und Funktionen für die elterliche Aufsicht, die bei den Nutzern unterschiedliche Reaktionen hervorgerufen haben.
Diese Schutzmaßnahmen gehen auf Bedenken ein, dass frühere Chatbot-Versionen versehentlich schädliche Gedankenmuster der Nutzer bestätigten, anstatt sie umzuleiten. Die Änderungen folgen auf einen tragischen Vorfall, bei dem ein Teenager Selbstmord beging, der angeblich durch längere ChatGPT-Interaktionen beeinflusst wurde und gegen den nun rechtliche Schritte eingeleitet wurden.
Das automatische Routing-System erkennt emotional aufgeladene Dialoge und leitet sie nahtlos in den GPT-5-Denkmodus über - OpenAIs designiertes Modell für den Umgang mit kritischen Sicherheitsszenarien. GPT-5 beinhaltet die innovative Technologie der "sicheren Vervollständigung", die es ermöglicht, auf heikle Themen nuanciert zu reagieren, anstatt sie rundheraus abzulehnen.
Dies stellt eine deutliche Abkehr vom Konversationsansatz des GPT-4o dar, der für seine angenehme Art bekannt war, die gelegentlich zu besorgniserregenden Benutzerinteraktionen beitrug. Seit GPT-5 im August letzten Jahres zum Standardmodell wurde, haben einige Nutzer lautstark gefordert, weiterhin Zugang zu GPT-4o zu haben.
Während Sicherheitsbefürworter die Initiative begrüßen, argumentieren Kritiker, dass die Maßnahmen die Nutzererfahrung zu sehr einschränken. OpenAI räumt ein, dass die Verfeinerung in den nächsten vier Monaten kontinuierliche Anpassungen erfordern wird.
Nick Turley, der Produktleiter von ChatGPT, äußerte sich zu den Bedenken bezüglich der Routing-Implementierung:
"Der Modellwechsel erfolgt vorübergehend pro Nachricht", stellte er über soziale Medien klar. "Benutzer erhalten auf Anfrage Benachrichtigungen über aktive Modelle. Diese schrittweise Einführung ermöglicht eine Optimierung der Sicherheit auf der Grundlage realer Interaktionen."
Die begleitenden Funktionen zur elterlichen Kontrolle lösten ebenfalls polarisierte Reaktionen aus. Diese Tools ermöglichen es den Erziehungsberechtigten, die Konten von Teenagern durch Funktionen wie folgende zu verwalten:
- Geplante Nutzungsbeschränkungen
- Einschränkungen der Sprachinteraktion
- Deaktivierte Speichererhaltung
- Entfernung der Erzeugung visueller Inhalte
Jugendkonten erhalten automatisch einen verbesserten Schutz vor potenziell schädlichen Inhalten in Bezug auf Selbstbildideologien und Bildmaterial. Zusätzlich scannt das System mit Hilfe spezieller Algorithmen nach Indikatoren für Notlagen.
"Unser engagiertes Reaktionsteam bewertet sorgfältig die markierten Situationen", erklärt OpenAI. "In dringenden Fällen setzen wir mehrkanalige Benachrichtigungen an die Eltern ein, es sei denn, wir lehnen sie ausdrücklich ab."
Das Unternehmen räumt ein, dass es zu Fehlalarmen kommen kann, behauptet aber, dass ein proaktives Eingreifen die Risiken der Untätigkeit überwiegt. Zukünftige Entwicklungen könnten die direkte Koordination von Notdiensten umfassen, wenn sich der Kontakt zu den Eltern in kritischen Situationen als unmöglich erweist.
Verwandter Artikel
Satya Nadella bereit, die neuen Vorteile der Vereinbarung mit OpenAI zu nutzen
Am Mittwoch fragte ein Analyst von Wall Street den Microsoft-CEO Satya Nadella direkt, wie die überarbeitete Partnerschaft mit OpenAI die finanziellen Ergebnisse des Unternehmens beeinflussen würde.Nadella bezeichnete die neue Vereinbarung als einen
OpenAI skizziert eine KI-Wirtschaft mit öffentlichen Vermögensfonds, Robotersteuern und einer Vier-Tage-Woche
Während Regierungen darum ringen, die wirtschaftlichen Auswirkungen superintelligenter Maschinen zu bewältigen, hat OpenAI eine Reihe von politischen Vorschlägen veröffentlicht, in denen dargelegt wir
Greg Brockman enthüllt, wie Elon Musk OpenAI verlassen hat
Ende August 2017 trafen sich führende Persönlichkeiten von OpenAI – damals ein kleines gemeinnütziges Forschungslabor –, um zu erörtern, wie sie ein gewinnorientiertes Unternehmen gründen könnten, um
Empfehlungen zu verwandten Spezialthemen
Text-zu-Sprache
Die besten KI-Sprachausgabe-Apps für Legasthenie: Unterstützung für das Lernen und effizienteres Lesen bei Schülern
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Comic-Erstellung
Die besten KI-Generatoren für Shonen-Manga: Erstelle actiongeladene Sequenzen und dynamische Effekte
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
Geschäft
Die besten KI-basierten Spesenabrechnungsprogramme: Quittungen scannen und Geschäftsausgaben automatisch kategorisieren
Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.
10 Tools
xix.ai
Geschäft
Die besten KI-Tools für die Personalbeschaffung: Lebensläufe prüfen und die Terminplanung für Vorstellungsgespräche automatisieren
Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!
10 Tools
xix.ai
Produktivität
KI-Coaches für persönliches Wohlbefinden und Konzentration: Burnout bewältigen und die geistige Energie steigern
Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.
10 Tools
xix.ai
Chatbot
Die besten KI-basierten Romantik-Chatbots: Bauen Sie langfristige Beziehungen mit beständiger Persönlichkeit auf
Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.
10 Tools
xix.ai
Kommentare (1)
![RobertMartin]()
親が子供のAI利用を管理できるのは良いけど、逆に言えばAIが私たちをずっと監視できるようにもなるってこと？🤔 このニュースを見て、ちょっとジョージオーウェルを思い出したよ。便利さとプライバシー、バランスはむずかしいね。
OpenAI hat vor kurzem experimentelle Sicherheitsverbesserungen für ChatGPT eingeführt, darunter einen neuen Routing-Mechanismus und Funktionen für die elterliche Aufsicht, die bei den Nutzern unterschiedliche Reaktionen hervorgerufen haben.
Diese Schutzmaßnahmen gehen auf Bedenken ein, dass frühere Chatbot-Versionen versehentlich schädliche Gedankenmuster der Nutzer bestätigten, anstatt sie umzuleiten. Die Änderungen folgen auf einen tragischen Vorfall, bei dem ein Teenager Selbstmord beging, der angeblich durch längere ChatGPT-Interaktionen beeinflusst wurde und gegen den nun rechtliche Schritte eingeleitet wurden.
Das automatische Routing-System erkennt emotional aufgeladene Dialoge und leitet sie nahtlos in den GPT-5-Denkmodus über - OpenAIs designiertes Modell für den Umgang mit kritischen Sicherheitsszenarien. GPT-5 beinhaltet die innovative Technologie der "sicheren Vervollständigung", die es ermöglicht, auf heikle Themen nuanciert zu reagieren, anstatt sie rundheraus abzulehnen.
Dies stellt eine deutliche Abkehr vom Konversationsansatz des GPT-4o dar, der für seine angenehme Art bekannt war, die gelegentlich zu besorgniserregenden Benutzerinteraktionen beitrug. Seit GPT-5 im August letzten Jahres zum Standardmodell wurde, haben einige Nutzer lautstark gefordert, weiterhin Zugang zu GPT-4o zu haben.
Während Sicherheitsbefürworter die Initiative begrüßen, argumentieren Kritiker, dass die Maßnahmen die Nutzererfahrung zu sehr einschränken. OpenAI räumt ein, dass die Verfeinerung in den nächsten vier Monaten kontinuierliche Anpassungen erfordern wird.
Nick Turley, der Produktleiter von ChatGPT, äußerte sich zu den Bedenken bezüglich der Routing-Implementierung:
"Der Modellwechsel erfolgt vorübergehend pro Nachricht", stellte er über soziale Medien klar. "Benutzer erhalten auf Anfrage Benachrichtigungen über aktive Modelle. Diese schrittweise Einführung ermöglicht eine Optimierung der Sicherheit auf der Grundlage realer Interaktionen."
Die begleitenden Funktionen zur elterlichen Kontrolle lösten ebenfalls polarisierte Reaktionen aus. Diese Tools ermöglichen es den Erziehungsberechtigten, die Konten von Teenagern durch Funktionen wie folgende zu verwalten:
- Geplante Nutzungsbeschränkungen
- Einschränkungen der Sprachinteraktion
- Deaktivierte Speichererhaltung
- Entfernung der Erzeugung visueller Inhalte
Jugendkonten erhalten automatisch einen verbesserten Schutz vor potenziell schädlichen Inhalten in Bezug auf Selbstbildideologien und Bildmaterial. Zusätzlich scannt das System mit Hilfe spezieller Algorithmen nach Indikatoren für Notlagen.
"Unser engagiertes Reaktionsteam bewertet sorgfältig die markierten Situationen", erklärt OpenAI. "In dringenden Fällen setzen wir mehrkanalige Benachrichtigungen an die Eltern ein, es sei denn, wir lehnen sie ausdrücklich ab."
Das Unternehmen räumt ein, dass es zu Fehlalarmen kommen kann, behauptet aber, dass ein proaktives Eingreifen die Risiken der Untätigkeit überwiegt. Zukünftige Entwicklungen könnten die direkte Koordination von Notdiensten umfassen, wenn sich der Kontakt zu den Eltern in kritischen Situationen als unmöglich erweist.
Satya Nadella bereit, die neuen Vorteile der Vereinbarung mit OpenAI zu nutzen
Am Mittwoch fragte ein Analyst von Wall Street den Microsoft-CEO Satya Nadella direkt, wie die überarbeitete Partnerschaft mit OpenAI die finanziellen Ergebnisse des Unternehmens beeinflussen würde.Nadella bezeichnete die neue Vereinbarung als einen
OpenAI skizziert eine KI-Wirtschaft mit öffentlichen Vermögensfonds, Robotersteuern und einer Vier-Tage-Woche
Während Regierungen darum ringen, die wirtschaftlichen Auswirkungen superintelligenter Maschinen zu bewältigen, hat OpenAI eine Reihe von politischen Vorschlägen veröffentlicht, in denen dargelegt wir
Greg Brockman enthüllt, wie Elon Musk OpenAI verlassen hat
Ende August 2017 trafen sich führende Persönlichkeiten von OpenAI – damals ein kleines gemeinnütziges Forschungslabor –, um zu erörtern, wie sie ein gewinnorientiertes Unternehmen gründen könnten, um
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.
10 Tools
xix.ai
Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.
10 Tools
xix.ai
親が子供のAI利用を管理できるのは良いけど、逆に言えばAIが私たちをずっと監視できるようにもなるってこと？🤔 このニュースを見て、ちょっとジョージオーウェルを思い出したよ。便利さとプライバシー、バランスはむずかしいね。
