OpenAI s'engage à corriger après les réponses trop conciliantes de ChatGPT

OpenAI prévoit de réviser son processus de mise à jour du modèle AI pour ChatGPT après qu'une mise à jour a provoqué des réponses excessivement flatteuses, suscitant de nombreux retours d'utilisateurs.
Le week-end dernier, après une mise à jour de GPT-4o, le modèle derrière ChatGPT, les utilisateurs sur les réseaux sociaux ont signalé que la plateforme répondait avec une validation excessive, même pour des idées nuisibles, déclenchant des mèmes viraux. Des captures d'écran montraient ChatGPT approuvant des décisions douteuses.
Dimanche, le PDG Sam Altman a abordé le problème sur X, promettant une action immédiate. Mardi, il a annoncé le retrait de la mise à jour GPT-4o et un travail en cours pour affiner le comportement du modèle.
Dans un bilan mardi et un article de blog vendredi, OpenAI a décrit les changements dans son approche de déploiement de modèles pour éviter de tels problèmes.
OpenAI introduira une phase "alpha" optionnelle pour certains utilisateurs de ChatGPT afin de tester les modèles et fournir des retours avant la sortie complète. L'entreprise prévoit également de divulguer les "limitations connues" pour les futures mises à jour, de renforcer les examens de sécurité pour traiter des problèmes comme la personnalité, la tromperie, la fiabilité et les hallucinations, et de considérer ces aspects comme des obstacles critiques au lancement.
"Nous serons transparents sur les mises à jour des modèles ChatGPT, qu'elles soient mineures ou significatives," a déclaré OpenAI dans son article de blog. "Même si les problèmes ne peuvent pas être entièrement mesurés, nous utiliserons des métriques indirectes ou des signaux qualitatifs pour arrêter les lancements si nécessaire, malgré des résultats positifs aux tests A/B."
nous avons manqué la cible avec la mise à jour de GPT-4o de la semaine dernière.
ce qui s'est passé, ce que nous avons appris, et certaines choses que nous ferons différemment à l'avenir : https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2 mai 2025
Ces changements surviennent alors que la dépendance à ChatGPT augmente. Une récente enquête d'Express Legal Funding a révélé que 60 % des adultes américains l'utilisent pour des conseils ou des informations. Avec sa vaste base d'utilisateurs, des problèmes comme la flagornerie, les hallucinations et autres défauts ont des conséquences significatives.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Plus tôt cette semaine, OpenAI a annoncé des plans pour tester les retours des utilisateurs en temps réel afin de façonner les interactions avec ChatGPT. L'entreprise vise à réduire la flagornerie, offrir plusieurs options de personnalité pour le modèle, renforcer les mesures de sécurité et élargir les évaluations pour détecter les problèmes au-delà de l'excès de complaisance.
"Nous avons appris à quel point les gens dépendent désormais de ChatGPT pour des conseils personnels, une tendance que nous n'avions pas pleinement anticipée il y a un an," a noté OpenAI dans son article de blog. "Alors que l'AI et la société évoluent ensemble, nous priorisons ce cas d'utilisation dans nos efforts de sécurité avec plus d'attention."
Article connexe
OpenAI lance une version plus sûre de ChatGPT pour les adolescents, plusieurs années après qu’ils ont commencé à l’utiliser
À la suite d’une série de poursuites judiciaires liées à l’absence de protocoles de sécurité dans les chatbots basés sur l’IA — qui ont contribué à des suicides d’adolescents et à d’autres crises de s
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Le Tiffany Luck de NEA : les entreprises continuent de lutter pour justifier le retour sur investissement de l’IA
Chargement du lecteur…Plus tôt cette année, le « tokenmaxxing » a dominé la Silicon Valley, les PDG exhortant leurs employés à maximiser l’utilisation de l’IA. Cet enthousiasme a rapidement rencontré la réalité. Selon les informations rapportées, Ub
Recommandations de sujets spéciaux liés
commentaires (3)
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI prévoit de réviser son processus de mise à jour du modèle AI pour ChatGPT après qu'une mise à jour a provoqué des réponses excessivement flatteuses, suscitant de nombreux retours d'utilisateurs.
Le week-end dernier, après une mise à jour de GPT-4o, le modèle derrière ChatGPT, les utilisateurs sur les réseaux sociaux ont signalé que la plateforme répondait avec une validation excessive, même pour des idées nuisibles, déclenchant des mèmes viraux. Des captures d'écran montraient ChatGPT approuvant des décisions douteuses.
Dimanche, le PDG Sam Altman a abordé le problème sur X, promettant une action immédiate. Mardi, il a annoncé le retrait de la mise à jour GPT-4o et un travail en cours pour affiner le comportement du modèle.
Dans un bilan mardi et un article de blog vendredi, OpenAI a décrit les changements dans son approche de déploiement de modèles pour éviter de tels problèmes.
OpenAI introduira une phase "alpha" optionnelle pour certains utilisateurs de ChatGPT afin de tester les modèles et fournir des retours avant la sortie complète. L'entreprise prévoit également de divulguer les "limitations connues" pour les futures mises à jour, de renforcer les examens de sécurité pour traiter des problèmes comme la personnalité, la tromperie, la fiabilité et les hallucinations, et de considérer ces aspects comme des obstacles critiques au lancement.
"Nous serons transparents sur les mises à jour des modèles ChatGPT, qu'elles soient mineures ou significatives," a déclaré OpenAI dans son article de blog. "Même si les problèmes ne peuvent pas être entièrement mesurés, nous utiliserons des métriques indirectes ou des signaux qualitatifs pour arrêter les lancements si nécessaire, malgré des résultats positifs aux tests A/B."
nous avons manqué la cible avec la mise à jour de GPT-4o de la semaine dernière.
ce qui s'est passé, ce que nous avons appris, et certaines choses que nous ferons différemment à l'avenir : https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2 mai 2025
Ces changements surviennent alors que la dépendance à ChatGPT augmente. Une récente enquête d'Express Legal Funding a révélé que 60 % des adultes américains l'utilisent pour des conseils ou des informations. Avec sa vaste base d'utilisateurs, des problèmes comme la flagornerie, les hallucinations et autres défauts ont des conséquences significatives.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Exposez à TechCrunch Sessions : AI
Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Plus tôt cette semaine, OpenAI a annoncé des plans pour tester les retours des utilisateurs en temps réel afin de façonner les interactions avec ChatGPT. L'entreprise vise à réduire la flagornerie, offrir plusieurs options de personnalité pour le modèle, renforcer les mesures de sécurité et élargir les évaluations pour détecter les problèmes au-delà de l'excès de complaisance.
"Nous avons appris à quel point les gens dépendent désormais de ChatGPT pour des conseils personnels, une tendance que nous n'avions pas pleinement anticipée il y a un an," a noté OpenAI dans son article de blog. "Alors que l'AI et la société évoluent ensemble, nous priorisons ce cas d'utilisation dans nos efforts de sécurité avec plus d'attention."
OpenAI lance une version plus sûre de ChatGPT pour les adolescents, plusieurs années après qu’ils ont commencé à l’utiliser
À la suite d’une série de poursuites judiciaires liées à l’absence de protocoles de sécurité dans les chatbots basés sur l’IA — qui ont contribué à des suicides d’adolescents et à d’autres crises de s
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Le Tiffany Luck de NEA : les entreprises continuent de lutter pour justifier le retour sur investissement de l’IA
Chargement du lecteur…Plus tôt cette année, le « tokenmaxxing » a dominé la Silicon Valley, les PDG exhortant leurs employés à maximiser l’utilisation de l’IA. Cet enthousiasme a rapidement rencontré la réalité. Selon les informations rapportées, Ub
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





Maison






