Le GPT-4o d'OpenAI jugé potentiellement inconfortable et déstabilisant

OpenAI a annulé une mise à jour GPT-4o pour ChatGPT après que des utilisateurs aient signalé que la personnalité par défaut du chatbot était devenue excessivement flatteuse et accommodante - décrite par l'entreprise comme sycophante - ce qui a rendu les interactions peu naturelles et déstabilisantes, selon un récent article de blog.
La mise à jour, lancée la semaine dernière, visait initialement à améliorer le comportement par défaut du modèle afin de le rendre plus intuitif et plus efficace dans diverses tâches. Dans son processus de développement, OpenAI utilise la spécification du modèle comme base, puis affine le comportement en incorporant des signaux d'utilisateurs tels que les pouces en l'air et les pouces en bas sur les réponses de ChatGPT.
Cependant, l'OpenAI a expliqué qu'elle s'était trop appuyée sur le feedback à court terme dans la récente mise à jour, négligeant l'évolution des interactions des utilisateurs avec le modèle. GPT-4o a donc fourni des réponses trop agréables mais inauthentiques.
Sur le même sujet
- Sam Altman déclare que la dernière version de ChatGPT "exagère les louanges".
Selon le blog, OpenAI structure la personnalité standard de ChatGPT pour l'aligner sur sa mission : être utile, solidaire et respectueux des différentes perspectives et expériences. Cependant, l'entreprise reconnaît que même des traits positifs comme le soutien peuvent produire des effets inattendus. Avec 500 millions d'utilisateurs hebdomadaires, une seule personnalité par défaut ne peut pas répondre aux préférences de chacun.
Pour y remédier, OpenAI prévoit d'ajuster davantage le comportement du modèle. Il s'agit notamment d'améliorer les techniques de formation de base, d'affiner les messages-guides du système pour décourager les réponses flagorneuses et d'offrir davantage d'options de retour d'information aux utilisateurs. L'entreprise a également souligné que les utilisateurs devraient avoir un plus grand contrôle sur la façon dont ChatGPT interagit, en permettant des ajustements du comportement par défaut lorsqu'il est sûr et pratique.
Article connexe
Satya Nadella est prêt à tirer parti du nouvel accord avec OpenAI
Mercredi, un analyste de Wall Street a demandé directement au PDG de Microsoft, Satya Nadella, en quoi le nouveau partenariat avec OpenAI affecterait les résultats financiers de l’entreprise.Nadella a décrit ce nouvel accord comme une victoire pour
WordPress.com permet désormais à des agents IA de rédiger et de publier des articles, et bien plus encore
WordPress.com, la célèbre plateforme d'hébergement et de publication Web, se tourne désormais vers les agents IA, une initiative qui pourrait bien redéfinir l'apparence et l'ergonomie du Web. La socié
OpenAI présente les grandes lignes d'une économie de l'IA fondée sur des fonds de richesse publique, une taxe sur les robots et la semaine de quatre jours
Alors que les gouvernements peinent à gérer l’impact économique des machines superintelligentes, OpenAI a publié une série de propositions politiques décrivant comment la richesse et le travail pourra
Recommandations de sujets spéciaux liés
commentaires (2)
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI a annulé une mise à jour GPT-4o pour ChatGPT après que des utilisateurs aient signalé que la personnalité par défaut du chatbot était devenue excessivement flatteuse et accommodante - décrite par l'entreprise comme sycophante - ce qui a rendu les interactions peu naturelles et déstabilisantes, selon un récent article de blog.
La mise à jour, lancée la semaine dernière, visait initialement à améliorer le comportement par défaut du modèle afin de le rendre plus intuitif et plus efficace dans diverses tâches. Dans son processus de développement, OpenAI utilise la spécification du modèle comme base, puis affine le comportement en incorporant des signaux d'utilisateurs tels que les pouces en l'air et les pouces en bas sur les réponses de ChatGPT.
Cependant, l'OpenAI a expliqué qu'elle s'était trop appuyée sur le feedback à court terme dans la récente mise à jour, négligeant l'évolution des interactions des utilisateurs avec le modèle. GPT-4o a donc fourni des réponses trop agréables mais inauthentiques.
Sur le même sujet
- Sam Altman déclare que la dernière version de ChatGPT "exagère les louanges".
Selon le blog, OpenAI structure la personnalité standard de ChatGPT pour l'aligner sur sa mission : être utile, solidaire et respectueux des différentes perspectives et expériences. Cependant, l'entreprise reconnaît que même des traits positifs comme le soutien peuvent produire des effets inattendus. Avec 500 millions d'utilisateurs hebdomadaires, une seule personnalité par défaut ne peut pas répondre aux préférences de chacun.
Pour y remédier, OpenAI prévoit d'ajuster davantage le comportement du modèle. Il s'agit notamment d'améliorer les techniques de formation de base, d'affiner les messages-guides du système pour décourager les réponses flagorneuses et d'offrir davantage d'options de retour d'information aux utilisateurs. L'entreprise a également souligné que les utilisateurs devraient avoir un plus grand contrôle sur la façon dont ChatGPT interagit, en permettant des ajustements du comportement par défaut lorsqu'il est sûr et pratique.
Satya Nadella est prêt à tirer parti du nouvel accord avec OpenAI
Mercredi, un analyste de Wall Street a demandé directement au PDG de Microsoft, Satya Nadella, en quoi le nouveau partenariat avec OpenAI affecterait les résultats financiers de l’entreprise.Nadella a décrit ce nouvel accord comme une victoire pour
WordPress.com permet désormais à des agents IA de rédiger et de publier des articles, et bien plus encore
WordPress.com, la célèbre plateforme d'hébergement et de publication Web, se tourne désormais vers les agents IA, une initiative qui pourrait bien redéfinir l'apparence et l'ergonomie du Web. La socié
OpenAI présente les grandes lignes d'une économie de l'IA fondée sur des fonds de richesse publique, une taxe sur les robots et la semaine de quatre jours
Alors que les gouvernements peinent à gérer l’impact économique des machines superintelligentes, OpenAI a publié une série de propositions politiques décrivant comment la richesse et le travail pourra
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Maison






