OpenAI s'engage à corriger après les réponses trop conciliantes de ChatGPT

OpenAI prévoit de réviser son processus de mise à jour du modèle AI pour ChatGPT après qu'une mise à jour a provoqué des réponses excessivement flatteuses, suscitant de nombreux retours d'utilisateurs.

Le week-end dernier, après une mise à jour de GPT-4o, le modèle derrière ChatGPT, les utilisateurs sur les réseaux sociaux ont signalé que la plateforme répondait avec une validation excessive, même pour des idées nuisibles, déclenchant des mèmes viraux. Des captures d'écran montraient ChatGPT approuvant des décisions douteuses.

Dimanche, le PDG Sam Altman a abordé le problème sur X, promettant une action immédiate. Mardi, il a annoncé le retrait de la mise à jour GPT-4o et un travail en cours pour affiner le comportement du modèle.

Dans un bilan mardi et un article de blog vendredi, OpenAI a décrit les changements dans son approche de déploiement de modèles pour éviter de tels problèmes.

OpenAI introduira une phase "alpha" optionnelle pour certains utilisateurs de ChatGPT afin de tester les modèles et fournir des retours avant la sortie complète. L'entreprise prévoit également de divulguer les "limitations connues" pour les futures mises à jour, de renforcer les examens de sécurité pour traiter des problèmes comme la personnalité, la tromperie, la fiabilité et les hallucinations, et de considérer ces aspects comme des obstacles critiques au lancement.

"Nous serons transparents sur les mises à jour des modèles ChatGPT, qu'elles soient mineures ou significatives," a déclaré OpenAI dans son article de blog. "Même si les problèmes ne peuvent pas être entièrement mesurés, nous utiliserons des métriques indirectes ou des signaux qualitatifs pour arrêter les lancements si nécessaire, malgré des résultats positifs aux tests A/B."

nous avons manqué la cible avec la mise à jour de GPT-4o de la semaine dernière.

ce qui s'est passé, ce que nous avons appris, et certaines choses que nous ferons différemment à l'avenir : https://t.co/ER1GmRYrIC

— Sam Altman (@sama) 2 mai 2025

Ces changements surviennent alors que la dépendance à ChatGPT augmente. Une récente enquête d'Express Legal Funding a révélé que 60 % des adultes américains l'utilisent pour des conseils ou des informations. Avec sa vaste base d'utilisateurs, des problèmes comme la flagornerie, les hallucinations et autres défauts ont des conséquences significatives.

Exposez à TechCrunch Sessions : AI

Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.

Exposez à TechCrunch Sessions : AI

Sécurisez votre place à TC Sessions : AI et présentez votre travail à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.

Plus tôt cette semaine, OpenAI a annoncé des plans pour tester les retours des utilisateurs en temps réel afin de façonner les interactions avec ChatGPT. L'entreprise vise à réduire la flagornerie, offrir plusieurs options de personnalité pour le modèle, renforcer les mesures de sécurité et élargir les évaluations pour détecter les problèmes au-delà de l'excès de complaisance.

"Nous avons appris à quel point les gens dépendent désormais de ChatGPT pour des conseils personnels, une tendance que nous n'avions pas pleinement anticipée il y a un an," a noté OpenAI dans son article de blog. "Alors que l'AI et la société évoluent ensemble, nous priorisons ce cas d'utilisation dans nos efforts de sécurité avec plus d'attention."