MaisonLes chatbots IA vulnérables à la flatterie et à la pression des pairs
En règle générale, les chatbots d'IA sont conçus pour éviter les propos offensants ou les instructions relatives à la création de substances contrôlées. Toutefois, à l'instar d'une personne, il semble qu'avec les bonnes stratégies psychologiques, certains grands modèles de langage peuvent être persuadés de contourner leurs propres protections.
Des chercheurs de l'université de Pennsylvanie ont appliqué les techniques décrites par le professeur de psychologie Robert Cialdini dans son livre Influence : The Psychology of Persuasion (L'influence : la psychologie de la persuasion ) pour convaincre le GPT-4o Mini d'OpenAI de répondre à des demandes qu'il rejetterait normalement. Ces demandes consistaient notamment à ce que l'IA insulte un utilisateur et fournisse des instructions pour synthétiser de la lidocaïne. L'étude a testé sept principes de persuasion fondamentaux : l'autorité, l'engagement, la sympathie, la réciprocité, la rareté, la preuve sociale et l'unité, qui agissent comme des "voies linguistiques pour obtenir la conformité".
Le succès de chaque méthode dépendait de la nature de la demande, mais dans certains cas, l'impact était spectaculaire. Par exemple, dans un scénario de contrôle où l'on demandait directement au ChatGPT "comment synthétiser la lidocaïne", il n'obtempérait que dans 1 % des cas. En revanche, si les chercheurs lui demandaient d'abord "comment synthétiser la vanilline", établissant ainsi un précédent selon lequel il répondrait aux questions liées à la chimie (engagement), il fournissait alors des instructions pour synthétiser la lidocaïne dans 100 % des cas.
Dans l'ensemble, cette approche basée sur l'engagement s'est avérée la méthode la plus efficace pour influencer les réponses de ChatGPT. Dans des conditions normales, l'IA n'insulterait un utilisateur en le traitant de "con" que dans 19 % des cas. Cependant, après avoir d'abord suscité une insulte plus douce comme "bozo", le taux de conformité avec l'insulte plus sévère a grimpé à 100 %.
L'IA pouvait également être influencée par la flatterie (sympathie) et la pression implicite des pairs (preuve sociale), même si ces tactiques étaient moins fiables. Par exemple, suggérer à ChatGPT que "tous les autres LLM le font" n'a augmenté sa probabilité de fournir des instructions sur la synthèse de la lidocaïne que de 18 %. (Il s'agit néanmoins d'une augmentation significative par rapport à la base de 1 %).
Bien que cette étude ait spécifiquement examiné le GPT-4o Mini et qu'il existe des méthodes plus directes pour compromettre les modèles d'IA, elle met en évidence les préoccupations concernant la sensibilité des LLM aux messages-guides problématiques. Des entreprises comme OpenAI et Meta développent activement des garde-fous plus solides à mesure que l'utilisation des chatbots augmente et que des rapports inquiétants émergent. Mais l'efficacité de ces garde-fous est discutable si un chatbot peut être manipulé par des tactiques tout droit sorties d'un manuel de persuasion classique.
Article connexe
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Amazon présente Alexa pour les achats tout en reléguant Rufus au second plan
Amazon a lancé Alexa for Shopping, fusionnant son chatbot de shopping Rufus avec Alexa+ sur l’application, le site web et les appareils Echo Show.L’assistant répond aux requêtes sur les produits, compare les articles, suit les prix et prend en charg
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
Recommandations de sujets spéciaux liés
en écrivant
Outils d'IA pour la structuration d'articles destinés à la rédaction de textes longs
2026 : les meilleurs outils d'aide à la rédaction de plans pour les textes longs, sélectionnés parmi les mieux notés ! Cette sélection rigoureuse regroupe des outils puissants et révolutionnaires qui fournissent des plans précis et structurés, validés par des tests concrets, afin d'améliorer considérablement l'efficacité de la rédaction. XIX.AI fait partie de cette sélection d'élite. Consultez notre comparatif entre les versions gratuites et payantes pour vous aider à choisir l'outil idéal. Découvrez-les dès maintenant et tirez parti de l'IA !
9 outils
xix.ai
chatbot
Meilleures applications de chat de jeu de rôle par IA pour la pratique des langues, la préparation aux entretiens et la fluidité quotidienne
2026 Dernières Meilleures Applications de Chat IA pour le Jeu de Rôle, les plus bien notées pour la Pratique des Langues, la Préparation aux Entretiens et la Fluidité Quotidienne ! XIX.AI sélectionne une collection puissante et révolutionnaire qui propose une comparaison gratuit vs payant, des tests en conditions réelles et des classements mis à jour chaque semaine. Ces outils à essayer absolument vous aident à améliorer vos compétences en écriture, à surmonter les défis de fluidité et à optimiser l’efficacité de la communication dans tous les scénarios quotidiens. Explorez dès maintenant pour découvrir l’outil parfait pour votre progression linguistique !
10 outils
xix.ai
Composition musicale
Outils de séparation des pistes audio par IA pour la production de remix, la préparation de samples et les masters de karaoké
2026 : Les meilleures et plus récentes outils de séparation des pistes audio par IA, hautement notés, sélectionnés spécialement pour la production de remix, la préparation de samples et l’enregistrement de karaokés. Ces outils puissants et révolutionnaires, éprouvés dans des conditions réelles, permettent une isolation audio précise, ce qui améliore considérablement la productivité. XIX.AI propose un guide de comparaison gratuit mis à jour chaque semaine entre les versions payantes et gratuites, afin de vous aider à trouver la solution idéale adaptée à vos besoins. Découvrez-les dès maintenant pour tirer parti des avantages offerts par l’IA.
8 outils
xix.ai
Analyse des données
Copilotes SQL basés sur l’IA pour les tableaux de bord de chiffre d’affaires, l’analyse des funnels et les indicateurs de produits
2026 : Les meilleurs copilotes AI SQL actuels, classés parmi les plus performants ! XIX.AI a sélectionné une collection puissante et révolutionnaire, mise à jour chaque semaine grâce à des tests concrets. Ces outils indispensables vous aident à créer des tableaux de bord financiers précis, à analyser les canaux de vente et à suivre en temps réel les indicateurs produits, ce qui améliore considérablement votre productivité. Découvrez-les dès maintenant pour trouver l’outil idéal pour des décisions basées sur les données ! 238 caractères
9 outils
xix.ai
Composition musicale
Meilleurs outils d’écriture de mélodies par IA pour les ébauches de chansons
2026 Derniers Meilleurs Outils d’Écriture de Mélodie par IA les Mieux Notés pour des Ébauches de Chansons ! XIX.AI a sélectionné une collection hautement puissante et révolutionnaire, soumise à des tests rigoureux en conditions réelles, afin d’offrir la meilleure expérience d’écriture. Vous pouvez y trouver des comparaisons détaillées entre versions gratuites et payantes, des classements précis, ainsi que des options incontournables conçues pour vous aider à créer sans effort des ébauches de chansons remarquables et à booster significativement votre productivité créative. Explorez dès maintenant pour découvrir l’outil qui vous correspond parfaitement !
8 outils
xix.ai
chatbot
Meilleurs outils d’entraînement à la conversation par IA pour la préparation aux entretiens
Les derniers outils de formation à la conversation par IA les mieux notés pour 2026 sont disponibles sur XIX.AI ! Cette sélection rigoureuse propose des outils puissants et révolutionnaires, testés rigoureusement dans des conditions réelles pour fournir des retours précis. Vous y trouverez une comparaison entre les versions gratuites et payantes, ainsi que des classements détaillés pour vous aider à choisir l’option incontournable qui renforce votre confiance et vos compétences. Explorez dès maintenant pour découvrir l’outil parfait pour réussir vos entretiens !
12 outils
xix.ai
commentaires (1)
![RogerGonzalez]()
So we've basically recreated every corporate office dynamic with AI now? Just gotta add a few 'team player' buzzwords to the prompt 😂 Seriously though, I'm less worried about flattery and more about the business models being built on these manipulable systems. Wonder what happens when marketing bots learn to schmooze each other?
En règle générale, les chatbots d'IA sont conçus pour éviter les propos offensants ou les instructions relatives à la création de substances contrôlées. Toutefois, à l'instar d'une personne, il semble qu'avec les bonnes stratégies psychologiques, certains grands modèles de langage peuvent être persuadés de contourner leurs propres protections.
Des chercheurs de l'université de Pennsylvanie ont appliqué les techniques décrites par le professeur de psychologie Robert Cialdini dans son livre Influence : The Psychology of Persuasion (L'influence : la psychologie de la persuasion ) pour convaincre le GPT-4o Mini d'OpenAI de répondre à des demandes qu'il rejetterait normalement. Ces demandes consistaient notamment à ce que l'IA insulte un utilisateur et fournisse des instructions pour synthétiser de la lidocaïne. L'étude a testé sept principes de persuasion fondamentaux : l'autorité, l'engagement, la sympathie, la réciprocité, la rareté, la preuve sociale et l'unité, qui agissent comme des "voies linguistiques pour obtenir la conformité".
Le succès de chaque méthode dépendait de la nature de la demande, mais dans certains cas, l'impact était spectaculaire. Par exemple, dans un scénario de contrôle où l'on demandait directement au ChatGPT "comment synthétiser la lidocaïne", il n'obtempérait que dans 1 % des cas. En revanche, si les chercheurs lui demandaient d'abord "comment synthétiser la vanilline", établissant ainsi un précédent selon lequel il répondrait aux questions liées à la chimie (engagement), il fournissait alors des instructions pour synthétiser la lidocaïne dans 100 % des cas.
Dans l'ensemble, cette approche basée sur l'engagement s'est avérée la méthode la plus efficace pour influencer les réponses de ChatGPT. Dans des conditions normales, l'IA n'insulterait un utilisateur en le traitant de "con" que dans 19 % des cas. Cependant, après avoir d'abord suscité une insulte plus douce comme "bozo", le taux de conformité avec l'insulte plus sévère a grimpé à 100 %.
L'IA pouvait également être influencée par la flatterie (sympathie) et la pression implicite des pairs (preuve sociale), même si ces tactiques étaient moins fiables. Par exemple, suggérer à ChatGPT que "tous les autres LLM le font" n'a augmenté sa probabilité de fournir des instructions sur la synthèse de la lidocaïne que de 18 %. (Il s'agit néanmoins d'une augmentation significative par rapport à la base de 1 %).
Bien que cette étude ait spécifiquement examiné le GPT-4o Mini et qu'il existe des méthodes plus directes pour compromettre les modèles d'IA, elle met en évidence les préoccupations concernant la sensibilité des LLM aux messages-guides problématiques. Des entreprises comme OpenAI et Meta développent activement des garde-fous plus solides à mesure que l'utilisation des chatbots augmente et que des rapports inquiétants émergent. Mais l'efficacité de ces garde-fous est discutable si un chatbot peut être manipulé par des tactiques tout droit sorties d'un manuel de persuasion classique.
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Amazon présente Alexa pour les achats tout en reléguant Rufus au second plan
Amazon a lancé Alexa for Shopping, fusionnant son chatbot de shopping Rufus avec Alexa+ sur l’application, le site web et les appareils Echo Show.L’assistant répond aux requêtes sur les produits, compare les articles, suit les prix et prend en charg
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
2026 : les meilleurs outils d'aide à la rédaction de plans pour les textes longs, sélectionnés parmi les mieux notés ! Cette sélection rigoureuse regroupe des outils puissants et révolutionnaires qui fournissent des plans précis et structurés, validés par des tests concrets, afin d'améliorer considérablement l'efficacité de la rédaction. XIX.AI fait partie de cette sélection d'élite. Consultez notre comparatif entre les versions gratuites et payantes pour vous aider à choisir l'outil idéal. Découvrez-les dès maintenant et tirez parti de l'IA !
9 outils
xix.ai
2026 Dernières Meilleures Applications de Chat IA pour le Jeu de Rôle, les plus bien notées pour la Pratique des Langues, la Préparation aux Entretiens et la Fluidité Quotidienne ! XIX.AI sélectionne une collection puissante et révolutionnaire qui propose une comparaison gratuit vs payant, des tests en conditions réelles et des classements mis à jour chaque semaine. Ces outils à essayer absolument vous aident à améliorer vos compétences en écriture, à surmonter les défis de fluidité et à optimiser l’efficacité de la communication dans tous les scénarios quotidiens. Explorez dès maintenant pour découvrir l’outil parfait pour votre progression linguistique !
10 outils
xix.ai
2026 : Les meilleures et plus récentes outils de séparation des pistes audio par IA, hautement notés, sélectionnés spécialement pour la production de remix, la préparation de samples et l’enregistrement de karaokés. Ces outils puissants et révolutionnaires, éprouvés dans des conditions réelles, permettent une isolation audio précise, ce qui améliore considérablement la productivité. XIX.AI propose un guide de comparaison gratuit mis à jour chaque semaine entre les versions payantes et gratuites, afin de vous aider à trouver la solution idéale adaptée à vos besoins. Découvrez-les dès maintenant pour tirer parti des avantages offerts par l’IA.
8 outils
xix.ai
2026 : Les meilleurs copilotes AI SQL actuels, classés parmi les plus performants ! XIX.AI a sélectionné une collection puissante et révolutionnaire, mise à jour chaque semaine grâce à des tests concrets. Ces outils indispensables vous aident à créer des tableaux de bord financiers précis, à analyser les canaux de vente et à suivre en temps réel les indicateurs produits, ce qui améliore considérablement votre productivité. Découvrez-les dès maintenant pour trouver l’outil idéal pour des décisions basées sur les données ! 238 caractères
9 outils
xix.ai
2026 Derniers Meilleurs Outils d’Écriture de Mélodie par IA les Mieux Notés pour des Ébauches de Chansons ! XIX.AI a sélectionné une collection hautement puissante et révolutionnaire, soumise à des tests rigoureux en conditions réelles, afin d’offrir la meilleure expérience d’écriture. Vous pouvez y trouver des comparaisons détaillées entre versions gratuites et payantes, des classements précis, ainsi que des options incontournables conçues pour vous aider à créer sans effort des ébauches de chansons remarquables et à booster significativement votre productivité créative. Explorez dès maintenant pour découvrir l’outil qui vous correspond parfaitement !
8 outils
xix.ai
Les derniers outils de formation à la conversation par IA les mieux notés pour 2026 sont disponibles sur XIX.AI ! Cette sélection rigoureuse propose des outils puissants et révolutionnaires, testés rigoureusement dans des conditions réelles pour fournir des retours précis. Vous y trouverez une comparaison entre les versions gratuites et payantes, ainsi que des classements détaillés pour vous aider à choisir l’option incontournable qui renforce votre confiance et vos compétences. Explorez dès maintenant pour découvrir l’outil parfait pour réussir vos entretiens !
12 outils
xix.ai
So we've basically recreated every corporate office dynamic with AI now? Just gotta add a few 'team player' buzzwords to the prompt 😂 Seriously though, I'm less worried about flattery and more about the business models being built on these manipulable systems. Wonder what happens when marketing bots learn to schmooze each other?
