Les fausses critiques sont un gros problème - et voici comment AI pourrait aider à le résoudre

Depuis sa création en 2007, Trustpilot est devenu une plateforme de référence pour les avis des utilisateurs, accumulant un impressionnant total de 238 millions d’avis sur près d’un million d’entreprises et couvrant 50 nationalités. Bien que Trustpilot inclue des avis sur des entreprises américaines, j’ai constaté que les commerces locaux que j’ai recherchés n’étaient pas répertoriés, et j’ai eu plus de succès avec Yelp. Il semble que Trustpilot ait une présence plus marquée en Europe, mais pour notre discussion ici, l’aspect géographique n’est pas notre principale préoccupation. Nous nous penchons plutôt sur une problématique critique qui touche les sites d’avis : la prolifération des faux avis.

En 2023, Trustpilot a réussi à identifier et supprimer 3,3 millions de faux avis, après en avoir retiré 2,6 millions l’année précédente. Cette lutte continue contre les faux avis est rendue encore plus complexe par l’essor de l’IA générative. Selon une recherche publiée dans les Proceedings of the National Academy of Sciences of the United States of America (PNAS), seulement environ la moitié des consommateurs peuvent distinguer un texte généré par IA d’un contenu écrit par un humain. Cela représente un obstacle important pour les consommateurs et les plateformes comme Trustpilot, qui ont la tâche de filtrer les faux avis pour garantir l’authenticité des opinions des consommateurs.

Trustpilot a fait de cette problématique une mission centrale. Lors d’une conversation éclairante avec Anoop Joshi, Chief Trust Officer de Trustpilot, nous avons exploré comment l’entreprise lutte contre les faux avis générés par IA.

Le parcours d’Anoop Joshi vers le poste de Chief Trust Officer de Trustpilot

Anoop Joshi, qui travaille chez Trustpilot depuis plus de quatre ans, dirige les opérations de confiance et sécurité ainsi que les opérations juridiques et de confidentialité de l’entreprise avec une équipe d’environ 80 personnes. Son rôle englobe un large éventail d’activités, incluant les litiges, les affaires publiques, les communications globales, les contrats commerciaux, la modération de contenu, la protection de la marque et les enquêtes sur la fraude. Initialement, Joshi était responsable des travaux liés à l’application des règles, luttant contre les abus sur la plateforme Trustpilot par les entreprises ou les consommateurs, et traitant des problèmes tels que les faux avis et diverses formes d’abus.

Son équipe a évolué pour devenir la première équipe d’intégrité de la plateforme de l’entreprise, renforçant le côté opérationnel de la confiance et de la sécurité. Ce travail a été reconnu dans l’industrie, conduisant Trustpilot à devenir un membre fondateur de la Coalition of Trusted Reviews aux côtés de grands acteurs comme Amazon, TripAdvisor, Glassdoor, Booking.com et Expedia. Le parcours de Joshi, à la fois avocat et ingénieur logiciel, le positionne de manière unique pour naviguer à l’intersection du droit et de la technologie, essentielle pour construire et maintenir la confiance sur la plateforme.

Définition du rôle d’un Chief Trust Officer

Selon Joshi, le rôle d’un Chief Trust Officer chez Trustpilot est de s’assurer que l’entreprise respecte sa vision d’être le symbole universel de la confiance. Cela implique de définir ce que signifie la confiance pour Trustpilot, ce qui inclut l’intégrité des avis, le contenu sur le site web, et la manière dont l’entreprise traite les consommateurs et les entreprises. De plus, ce rôle pilote la gouvernance et les processus qui atténuent les risques, assurent la conformité et, en fin de compte, favorisent la confiance et la loyauté parmi les parties prenantes telles que les consommateurs, les employés, les entreprises, les investisseurs, les décideurs politiques et les journalistes. À mesure que la technologie devient plus omniprésente et que l’engagement en ligne augmente, le besoin de tels rôles au sein de la direction est appelé à croître.

Types courants de faux avis sur Trustpilot

Trustpilot catégorise les faux avis comme ceux qui ne sont pas basés sur des expériences authentiques ou qui visent à tromper les lecteurs. Les types les plus courants qu’ils rencontrent et suppriment incluent :

• Avis spam : Avis qui servent de publicités ou promeuvent d’autres entreprises.
• Conflits d’intérêts : Avis laissés par des propriétaires d’entreprises ou des employés sur leur propre entreprise.
• Avis trompeurs : Avis soumis par des individus qui n’ont pas réellement expérimenté l’entreprise.
• Avis incitatifs : Avis influencés par des incitations, souvent avec un contenu trompeur.

Impact du contenu généré par IA sur l’authenticité des avis

L’essor de l’IA générative a facilité la création de contenu, abaissant les barrières pour générer des faux avis. L’approche de Trustpilot pour détecter ces avis se concentre sur les comportements plutôt que sur le contenu lui-même. Leurs systèmes automatisés analysent la manière dont les avis sont soumis, recherchant des schémas et des marqueurs suspects, tout en tenant compte de la relation entre l’évaluateur et l’entreprise. Malgré l’avènement de technologies comme ChatGPT, le dernier rapport de transparence de Trustpilot indique un taux de détection des faux avis constant d’année en année, suggérant que leurs systèmes résistent bien à ce défi.

Comment Trustpilot détecte les faux avis en utilisant l’IA et l’apprentissage automatique

Chaque avis soumis à Trustpilot est analysé par des moteurs automatisés de détection des faux avis. Ces moteurs examinent divers aspects de l’avis, tels que le comportement antérieur de l’évaluateur et les déclarations promotionnelles. Certains schémas peuvent prendre du temps à émerger avant qu’une action ne soit entreprise. De plus, Trustpilot s’appuie sur sa communauté de consommateurs et d’entreprises pour signaler les avis suspects, qui sont ensuite examinés par des modérateurs humains dans l’équipe d’intégrité du contenu. Si un avis est supprimé, l’évaluateur est notifié et a la possibilité de faire appel de la décision. Cette combinaison de détection automatisée et de supervision humaine aide à améliorer continuellement l’approche de Trustpilot pour identifier et supprimer les faux avis.

Défis dans la distinction entre avis authentiques et faux

L’un des principaux défis auxquels Trustpilot est confronté est que certains schémas de comportement ne sont pas immédiatement évidents et nécessitent du temps pour se développer et être compris. Cela rend la distinction entre les avis authentiques et faux un défi constant.

Gestion des avis authentiques assistés par IA

Trustpilot évalue si les évaluateurs ont eu une expérience authentique avec une entreprise et si cette expérience est fidèlement reflétée dans leur avis. Des facteurs tels que le contenu copié d’autres sources, y compris le texte généré par IA, sont pris en compte pour déterminer si un avis est suspect. Si un degré élevé de suspicion est détecté, l’avis est supprimé, et l’évaluateur est informé et a la possibilité de contester la décision. Trustpilot cherche à trouver un équilibre, reconnaissant que les outils d’IA peuvent aider les évaluateurs à formuler des expériences authentiques, en particulier pour ceux ayant des besoins d’accessibilité ou de neurodiversité.

Équilibre entre détection automatisée et supervision humaine

Trustpilot s’assure que des humains sont impliqués dans la conception et la mise en œuvre de son logiciel d’automatisation. Bien que l’automatisation soit cruciale pour scaler les opérations, les problèmes que Trustpilot résout sont fondamentalement humains, et ces défis évoluent avec le temps. Par conséquent, l’automatisation doit s’adapter en fonction des idées tirées du comportement humain.

Évolution des taux de détection des faux avis au fil du temps

Malgré une augmentation d’année en année du total des avis, passant de 46 millions en 2022 à 54 millions en 2023, la proportion de faux avis supprimés est restée constante à 6 %. En 2023, les systèmes de Trustpilot ont détecté et supprimé 79 % des faux avis, démontrant l’efficacité de leur investissement continu dans la technologie. Alors que l’IA et l’apprentissage automatique continuent d’évoluer, l’accent mis par Trustpilot sur les schémas de comportement et les signalements de la communauté aide à maintenir un système de détection robuste.

Effets à long terme des faux avis sur la confiance et la réputation

Les faux avis peuvent avoir un impact significatif sur les décisions des consommateurs, entraînant des expériences négatives et une perte de confiance dans les plateformes en ligne. Si les plateformes ne parviennent pas à traiter efficacement les faux avis, les consommateurs pourraient perdre confiance dans les plateformes qu’ils utilisent pour prendre des décisions d’achat, affectant à la fois la confiance des consommateurs et la réputation des entreprises.

Considérations éthiques dans l’utilisation de l’IA pour la modération des avis

La transparence est au cœur de l’approche éthique de Trustpilot concernant l’utilisation de l’IA dans la modération des avis. L’entreprise est ouverte sur son utilisation de l’IA pour la prise de décision automatisée, en accord avec son engagement à favoriser la confiance entre les consommateurs et les entreprises.

Éducation des consommateurs sur l’identification des avis authentiques

Trustpilot utilise des signaux de confiance pour mettre en évidence les avis vérifiés et permet aux évaluateurs de se vérifier eux-mêmes, garantissant que les consommateurs peuvent distinguer les différents types d’avis. De plus, lorsque des mesures d’application sont prises contre des entreprises pour abus de la plateforme, Trustpilot affiche des avertissements aux consommateurs pour aider ces derniers à faire des choix éclairés.

L’avenir de l’IA dans la lutte contre les faux avis

L’avenir offre un potentiel significatif pour utiliser l’IA dans la lutte contre les faux avis, en particulier avec la capacité de l’IA générative à prédire les schémas. Les données abondantes et l’expérience de Trustpilot depuis 2007 le positionnent bien pour développer de meilleurs modèles de détection des faux avis. De plus, l’IA peut améliorer la transparence et guider les utilisateurs en ligne, mais avec une sophistication accrue vient une responsabilité plus grande.

Développements futurs dans les avis en ligne

À mesure que la distinction entre le contenu généré par les humains et celui généré par l’IA s’accroît, la valeur du contenu authentique basé sur l’expérience augmentera. Les plateformes comme Trustpilot, qui investissent dans la technologie, les personnes, la communauté et les processus pour mettre en avant des voix authentiques, deviendront de plus en plus précieuses pour les consommateurs et les entreprises.

Nous tenons à exprimer notre gratitude à Anoop Joshi pour cet entretien éclairant. Ses perspectives offrent des idées précieuses pour naviguer dans le monde complexe des avis en ligne. Qu’en pensez-vous ? Ces idées vous ont-elles aidé à mieux comprendre comment trier les avis en ligne ? Partagez vos pensées dans les commentaires ci-dessous.

Restez à jour avec mes mises à jour quotidiennes de projets sur les réseaux sociaux. N’oubliez pas de vous abonner à ma newsletter hebdomadaire, et suivez-moi sur Twitter/X à @DavidGewirtz, sur Facebook à Facebook.com/DavidGewirtz, sur Instagram à Instagram.com/DavidGewirtz, et sur YouTube à YouTube.com/DavidGewirtzTV.