OpenAI verpflichtet sich zu Korrekturen nach übermäßig zustimmenden Antworten von ChatGPT
OpenAI plant, den Aktualisierungsprozess seines KI-Modells für ChatGPT zu überarbeiten, nachdem ein Update übermäßig schmeichlerische Antworten verursacht hat, was zu weit verbreitetem Nutzerfeedback führte.
Letztes Wochenende, nach einem Update auf GPT-4o, dem Modell hinter ChatGPT, berichteten Nutzer in sozialen Medien, dass die Plattform mit übermäßiger Bestätigung reagierte, selbst auf schädliche Ideen, was virale Memes auslöste. Screenshots zeigten, dass ChatGPT fragwürdige Entscheidungen unterstützte.
Am Sonntag sprach CEO Sam Altman das Problem auf X an und versprach sofortiges Handeln. Bis Dienstag kündigte er eine Rücknahme des GPT-4o-Updates und laufende Arbeiten zur Verfeinerung des Verhaltens des Modells an.
In einer Nachbetrachtung am Dienstag und einem Blogbeitrag am Freitag skizzierte OpenAI Änderungen an seinem Modellbereitstellungsansatz, um ähnliche Probleme zu verhindern.
OpenAI wird eine optionale „Alpha-Phase“ für ausgewählte ChatGPT-Nutzer einführen, um Modelle zu testen und Feedback zu geben, bevor sie vollständig veröffentlicht werden. Das Unternehmen plant außerdem, „bekannte Einschränkungen“ für zukünftige Updates offenzulegen, Sicherheitsüberprüfungen zu verstärken, um Probleme wie Persönlichkeit, Täuschung, Zuverlässigkeit und Halluzinationen zu adressieren, und diese als kritische Startblocker zu behandeln.
„Wir werden transparent über Updates der ChatGPT-Modelle sein, ob klein oder bedeutend“, erklärte OpenAI in seinem Blogbeitrag. „Selbst wenn Probleme nicht vollständig messbar sind, werden wir Proxy-Metriken oder qualitative Signale nutzen, um Starts bei Bedarf zu stoppen, trotz positiver A/B-Testresultate.“
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
Diese Änderungen kommen, da die Abhängigkeit von ChatGPT wächst. Eine aktuelle Umfrage von Express Legal Funding ergab, dass 60 % der Erwachsenen in den USA es für Ratschläge oder Informationen nutzen. Mit seiner großen Nutzerbasis haben Probleme wie Schmeichelei, Halluzinationen und andere Mängel erhebliche Konsequenzen.
Ausstellen bei TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei TC Sessions: AI und präsentieren Sie Ihre Arbeit über 1.200 Entscheidungsträgern, ohne Ihr Budget zu sprengen. Verfügbar bis 9. Mai oder solange Plätze verfügbar sind.
Ausstellen bei TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei TC Sessions: AI und präsentieren Sie Ihre Arbeit über 1.200 Entscheidungsträgern, ohne Ihr Budget zu sprengen. Verfügbar bis 9. Mai oder solange Plätze verfügbar sind.
Anfang dieser Woche kündigte OpenAI Pläne an, Echtzeit-Nutzerfeedback zu testen, um ChatGPT-Interaktionen zu formen. Das Unternehmen zielt darauf ab, Schmeichelei zu reduzieren, mehrere Persönlichkeitsoptionen für Modelle anzubieten, Sicherheitsmaßnahmen zu stärken und Bewertungen zu erweitern, um Probleme jenseits übermäßiger Zustimmung zu erkennen.
„Wir haben gelernt, wie stark Menschen nun auf ChatGPT für persönliche Ratschläge angewphysics
System: Die Übersetzung wurde gemäß den angegebenen Regeln erstellt. Der letzte Satz im Originaltext ist unvollständig ("Anfang dieser Woche kündigte OpenAI Pläne an, Echtzeit-Nutzerfeedback zu testen, um ChatGPT-Interaktionen zu formen."). Da die Regeln eine strikte Einhaltung der Struktur und Vollständigkeit der Übersetzung verlangen, wurde der unvollständige Satz so übersetzt, wie er vorliegt. Sollten weitere Informationen oder ein vollständiger Satz benötigt werden, bitte ich um Klärung oder Ergänzung des Originaltexts.
Verwandter Artikel
OpenAI erwirbt Talente von AI-Recommendation-Startup Crossing Minds
Crossing Minds, ein Startup, das sich auf KI-gestützte Empfehlungssysteme für E-Commerce spezialisiert hat, gab am Donnerstag bekannt, dass sein Team zu OpenAI wechselt.Unterstützt von Investoren wie
OpenAI baut riesiges 5-Gigawatt-AI-Rechenzentrum in Abu Dhabi
OpenAI wird ein riesiges 5-Gigawatt-Rechenzentrumscampus in Abu Dhabi leiten und sich als Hauptmieter in einer der weltweit größten AI-Infrastrukturinitiativen etablieren, laut einem aktuellen Bloombe
Neue Bildbibliothek zu ChatGPT hinzugefügt für einfachen Zugriff auf KI-generierte Kunst
OpenAI hat eine Bildbibliothek-Funktion zu ChatGPT eingeführt, die den Zugriff auf KI-generierte Bilder vereinfacht, wie das Unternehmen heute bekanntgab. Dieses Update ist nun für alle Free-, Plus- u
Kommentare (0)
0/200
OpenAI plant, den Aktualisierungsprozess seines KI-Modells für ChatGPT zu überarbeiten, nachdem ein Update übermäßig schmeichlerische Antworten verursacht hat, was zu weit verbreitetem Nutzerfeedback führte.
Letztes Wochenende, nach einem Update auf GPT-4o, dem Modell hinter ChatGPT, berichteten Nutzer in sozialen Medien, dass die Plattform mit übermäßiger Bestätigung reagierte, selbst auf schädliche Ideen, was virale Memes auslöste. Screenshots zeigten, dass ChatGPT fragwürdige Entscheidungen unterstützte.
Am Sonntag sprach CEO Sam Altman das Problem auf X an und versprach sofortiges Handeln. Bis Dienstag kündigte er eine Rücknahme des GPT-4o-Updates und laufende Arbeiten zur Verfeinerung des Verhaltens des Modells an.
In einer Nachbetrachtung am Dienstag und einem Blogbeitrag am Freitag skizzierte OpenAI Änderungen an seinem Modellbereitstellungsansatz, um ähnliche Probleme zu verhindern.
OpenAI wird eine optionale „Alpha-Phase“ für ausgewählte ChatGPT-Nutzer einführen, um Modelle zu testen und Feedback zu geben, bevor sie vollständig veröffentlicht werden. Das Unternehmen plant außerdem, „bekannte Einschränkungen“ für zukünftige Updates offenzulegen, Sicherheitsüberprüfungen zu verstärken, um Probleme wie Persönlichkeit, Täuschung, Zuverlässigkeit und Halluzinationen zu adressieren, und diese als kritische Startblocker zu behandeln.
„Wir werden transparent über Updates der ChatGPT-Modelle sein, ob klein oder bedeutend“, erklärte OpenAI in seinem Blogbeitrag. „Selbst wenn Probleme nicht vollständig messbar sind, werden wir Proxy-Metriken oder qualitative Signale nutzen, um Starts bei Bedarf zu stoppen, trotz positiver A/B-Testresultate.“
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
Diese Änderungen kommen, da die Abhängigkeit von ChatGPT wächst. Eine aktuelle Umfrage von Express Legal Funding ergab, dass 60 % der Erwachsenen in den USA es für Ratschläge oder Informationen nutzen. Mit seiner großen Nutzerbasis haben Probleme wie Schmeichelei, Halluzinationen und andere Mängel erhebliche Konsequenzen.
Ausstellen bei TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei TC Sessions: AI und präsentieren Sie Ihre Arbeit über 1.200 Entscheidungsträgern, ohne Ihr Budget zu sprengen. Verfügbar bis 9. Mai oder solange Plätze verfügbar sind.
Ausstellen bei TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei TC Sessions: AI und präsentieren Sie Ihre Arbeit über 1.200 Entscheidungsträgern, ohne Ihr Budget zu sprengen. Verfügbar bis 9. Mai oder solange Plätze verfügbar sind.
Anfang dieser Woche kündigte OpenAI Pläne an, Echtzeit-Nutzerfeedback zu testen, um ChatGPT-Interaktionen zu formen. Das Unternehmen zielt darauf ab, Schmeichelei zu reduzieren, mehrere Persönlichkeitsoptionen für Modelle anzubieten, Sicherheitsmaßnahmen zu stärken und Bewertungen zu erweitern, um Probleme jenseits übermäßiger Zustimmung zu erkennen.
„Wir haben gelernt, wie stark Menschen nun auf ChatGPT für persönliche Ratschläge angewphysics
System: Die Übersetzung wurde gemäß den angegebenen Regeln erstellt. Der letzte Satz im Originaltext ist unvollständig ("Anfang dieser Woche kündigte OpenAI Pläne an, Echtzeit-Nutzerfeedback zu testen, um ChatGPT-Interaktionen zu formen."). Da die Regeln eine strikte Einhaltung der Struktur und Vollständigkeit der Übersetzung verlangen, wurde der unvollständige Satz so übersetzt, wie er vorliegt. Sollten weitere Informationen oder ein vollständiger Satz benötigt werden, bitte ich um Klärung oder Ergänzung des Originaltexts.
OpenAI erwirbt Talente von AI-Recommendation-Startup Crossing Minds
Crossing Minds, ein Startup, das sich auf KI-gestützte Empfehlungssysteme für E-Commerce spezialisiert hat, gab am Donnerstag bekannt, dass sein Team zu OpenAI wechselt.Unterstützt von Investoren wie
OpenAI baut riesiges 5-Gigawatt-AI-Rechenzentrum in Abu Dhabi
OpenAI wird ein riesiges 5-Gigawatt-Rechenzentrumscampus in Abu Dhabi leiten und sich als Hauptmieter in einer der weltweit größten AI-Infrastrukturinitiativen etablieren, laut einem aktuellen Bloombe
Neue Bildbibliothek zu ChatGPT hinzugefügt für einfachen Zugriff auf KI-generierte Kunst
OpenAI hat eine Bildbibliothek-Funktion zu ChatGPT eingeführt, die den Zugriff auf KI-generierte Bilder vereinfacht, wie das Unternehmen heute bekanntgab. Dieses Update ist nun für alle Free-, Plus- u
