Le GPT-4o d'OpenAI jugé potentiellement inconfortable et déstabilisant

OpenAI a annulé une mise à jour GPT-4o pour ChatGPT après que des utilisateurs aient signalé que la personnalité par défaut du chatbot était devenue excessivement flatteuse et accommodante - décrite par l'entreprise comme sycophante - ce qui a rendu les interactions peu naturelles et déstabilisantes, selon un récent article de blog.
La mise à jour, lancée la semaine dernière, visait initialement à améliorer le comportement par défaut du modèle afin de le rendre plus intuitif et plus efficace dans diverses tâches. Dans son processus de développement, OpenAI utilise la spécification du modèle comme base, puis affine le comportement en incorporant des signaux d'utilisateurs tels que les pouces en l'air et les pouces en bas sur les réponses de ChatGPT.
Cependant, l'OpenAI a expliqué qu'elle s'était trop appuyée sur le feedback à court terme dans la récente mise à jour, négligeant l'évolution des interactions des utilisateurs avec le modèle. GPT-4o a donc fourni des réponses trop agréables mais inauthentiques.
Sur le même sujet
- Sam Altman déclare que la dernière version de ChatGPT "exagère les louanges".
Selon le blog, OpenAI structure la personnalité standard de ChatGPT pour l'aligner sur sa mission : être utile, solidaire et respectueux des différentes perspectives et expériences. Cependant, l'entreprise reconnaît que même des traits positifs comme le soutien peuvent produire des effets inattendus. Avec 500 millions d'utilisateurs hebdomadaires, une seule personnalité par défaut ne peut pas répondre aux préférences de chacun.
Pour y remédier, OpenAI prévoit d'ajuster davantage le comportement du modèle. Il s'agit notamment d'améliorer les techniques de formation de base, d'affiner les messages-guides du système pour décourager les réponses flagorneuses et d'offrir davantage d'options de retour d'information aux utilisateurs. L'entreprise a également souligné que les utilisateurs devraient avoir un plus grand contrôle sur la façon dont ChatGPT interagit, en permettant des ajustements du comportement par défaut lorsqu'il est sûr et pratique.
Article connexe
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Amazon présente Alexa pour les achats tout en reléguant Rufus au second plan
Amazon a lancé Alexa for Shopping, fusionnant son chatbot de shopping Rufus avec Alexa+ sur l’application, le site web et les appareils Echo Show.L’assistant répond aux requêtes sur les produits, compare les articles, suit les prix et prend en charg
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
Recommandations de sujets spéciaux liés
commentaires (2)
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI a annulé une mise à jour GPT-4o pour ChatGPT après que des utilisateurs aient signalé que la personnalité par défaut du chatbot était devenue excessivement flatteuse et accommodante - décrite par l'entreprise comme sycophante - ce qui a rendu les interactions peu naturelles et déstabilisantes, selon un récent article de blog.
La mise à jour, lancée la semaine dernière, visait initialement à améliorer le comportement par défaut du modèle afin de le rendre plus intuitif et plus efficace dans diverses tâches. Dans son processus de développement, OpenAI utilise la spécification du modèle comme base, puis affine le comportement en incorporant des signaux d'utilisateurs tels que les pouces en l'air et les pouces en bas sur les réponses de ChatGPT.
Cependant, l'OpenAI a expliqué qu'elle s'était trop appuyée sur le feedback à court terme dans la récente mise à jour, négligeant l'évolution des interactions des utilisateurs avec le modèle. GPT-4o a donc fourni des réponses trop agréables mais inauthentiques.
Sur le même sujet
- Sam Altman déclare que la dernière version de ChatGPT "exagère les louanges".
Selon le blog, OpenAI structure la personnalité standard de ChatGPT pour l'aligner sur sa mission : être utile, solidaire et respectueux des différentes perspectives et expériences. Cependant, l'entreprise reconnaît que même des traits positifs comme le soutien peuvent produire des effets inattendus. Avec 500 millions d'utilisateurs hebdomadaires, une seule personnalité par défaut ne peut pas répondre aux préférences de chacun.
Pour y remédier, OpenAI prévoit d'ajuster davantage le comportement du modèle. Il s'agit notamment d'améliorer les techniques de formation de base, d'affiner les messages-guides du système pour décourager les réponses flagorneuses et d'offrir davantage d'options de retour d'information aux utilisateurs. L'entreprise a également souligné que les utilisateurs devraient avoir un plus grand contrôle sur la façon dont ChatGPT interagit, en permettant des ajustements du comportement par défaut lorsqu'il est sûr et pratique.
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Maison






