Les fausses critiques sont un gros problème - et voici comment AI pourrait aider à le résoudre

Depuis sa création en 2007, Trustpilot est devenu une plate-forme incontournable pour les avis des utilisateurs, amassage 238 millions de revues dans près d'un million d'entreprises et couvrant 50 nationalités. Bien que TrustPilot présente des critiques des entreprises américaines, j'ai constaté que les magasins locaux que j'ai recherchés n'étaient pas répertoriés, et j'ai eu plus de succès avec Yelp. Il semble que TrustPilot ait une base plus forte en Europe, mais pour notre discussion ici, l'objectif géographique n'est pas notre principale préoccupation. Au lieu de cela, nous plongeons dans un problème critique qui afflige les sites d'examen: la prolifération des fausses critiques.

En 2023, Trustpilot a réussi à identifier et à supprimer 3,3 millions de faux avis, après la suppression de 2,6 millions l'année précédente. Cette bataille en cours contre les fausses critiques est encore plus difficile par la montée en puissance de l'IA générative. Selon des recherches publiées dans les actes de l'Académie nationale des sciences des États-Unis d'Amérique (PNA), seulement environ la moitié des consommateurs peuvent différencier le texte généré par l'IA et le contenu écrit par l'homme. Cela crée un obstacle important pour les consommateurs et les plateformes comme TrustPilot, qui sont chargés de filtrer les fausses critiques pour assurer l'authenticité des opinions des consommateurs.

TrustPilot s'est donné une mission de base pour résoudre ce problème de front. Dans une conversation perspicace avec Anoop Joshi, directeur de fiducie de Trustpilot, nous avons expliqué comment l'entreprise se bat contre les fausses critiques générées par l'AI-AI.

Le voyage d'Anoop Joshi vers le chef de fiducie de Trustpilot

Anoop Joshi, qui est avec Trustpilot depuis plus de quatre ans, dirige les opérations de confiance et de sécurité et de confidentialité de l'entreprise avec une équipe d'environ 80. Son rôle comprend un large éventail d'activités, notamment des litiges, des affaires publiques, des communications mondiales, des contrats commerciaux, une modération de contenu, une protection de marque et des enquêtes sur la fraude. Initialement, Joshi était responsable des travaux liés à l'application, lutter contre la mauvaise utilisation sur la plate-forme TrustPilot par les entreprises ou les consommateurs, et résoudre des problèmes tels que de fausses avis et diverses formes d'abus.

Son équipe est devenue la première équipe d'intégrité de la plate-forme de l'entreprise, améliorant le côté opérationnel de la confiance et de la sécurité. Ce travail a acquis une reconnaissance de l'industrie, le premier fiduciaire pour devenir un membre fondateur de la Coalition of Truted Reviews aux côtés de grands acteurs comme Amazon, TripAdvisor, Glassdoor, Booking.com et Expedia. Les antécédents de Joshi en tant qu'avocat et ingénieur logiciel le positionnent de manière unique pour naviguer dans l'intersection de la loi et de la technologie, cruciale pour renforcer et maintenir la confiance sur la plate-forme.

Définir le rôle d'un directeur de fiducie

Selon Joshi, le rôle d'un directeur de fiducie chez Trustpilot est de s'assurer que l'entreprise est à la hauteur de sa vision d'être le symbole universel de la confiance. Cela implique de définir ce que la confiance signifie pour TrustPilot, qui comprend l'intégrité des avis, le contenu du site Web et comment l'entreprise traite les consommateurs et les entreprises. De plus, le rôle stimule la gouvernance et les processus qui atténuent les risques, garantissent la conformité et finissent par favoriser la confiance et la loyauté parmi les parties prenantes telles que les consommateurs, les employés, les entreprises, les investisseurs, les décideurs et les journalistes. À mesure que la technologie devient plus omniprésente et que l'engagement en ligne augmente, la nécessité de tels rôles dans la C-Suite devrait augmenter.

Types communs de fausses avis sur TrustPilot

TrustPilot classe les fausses critiques comme celles qui ne sont pas basées sur de véritables expériences ou celles destinées à induire les lecteurs en erreur. Les types les plus courants qu'ils rencontrent et suppriment comprennent:

• Avis de spam: avis qui servent de publicités ou promeuvent d'autres entreprises.
• Conflits d'intérêts: revues laissées par les propriétaires d'entreprise ou les employés au sujet de leur propre entreprise.
• Avis trompeurs: avis soumis par des personnes qui n'ont pas réellement connu l'entreprise.
• Revues d'incitation: revues influencées par les incitations, souvent avec un contenu trompeur.

Impact du contenu généré par l'IA sur l'authenticité de la revue

La montée en puissance de l'IA générative a permis aux individus de créer plus facilement du contenu, réduisant les barrières pour générer de fausses avis. L'approche de TrustPilot pour détecter ces revues se concentre sur les comportements plutôt que sur le contenu lui-même. Leurs systèmes automatisés analysent comment les avis sont soumis, à la recherche de modèles et de marqueurs suspects, tout en considérant la relation entre l'examinateur et l'entreprise. Malgré l'avènement de technologies comme Chatgpt, le dernier rapport de transparence de TrustPilot indique un taux de détection cohérent d'une année à l'autre de faux critiques, ce qui suggère que leurs systèmes résistent bien à ce défi.

Comment TrustPilot détecte les fausses critiques en utilisant l'IA et l'apprentissage automatique

Chaque examen soumis à TrustPilot subit une analyse par des moteurs de détection de faux avis automatisés. Ces moteurs considèrent diverses facettes de l'examen, telles que le comportement antérieur de l'examinateur et toutes les déclarations promotionnelles. Certains modèles peuvent prendre du temps pour émerger avant que des mesures ne soient prises. De plus, TrustPilot s'appuie sur sa communauté de consommateurs et d'entreprises pour signaler les critiques suspectes, qui sont ensuite examinées par des modérateurs humains dans l'équipe d'intégrité du contenu. Si un examen est supprimé, le réviseur est informé et a eu la possibilité de faire appel de la décision. Cette combinaison de détection automatisée et de surveillance humaine aide à améliorer continuellement l'approche de Trustpilot pour identifier et supprimer les fausses critiques.

Défis dans la distinction de critiques authentiques et fausses

L'un des principaux défis auxquels TrustPilot est confronté est que certains modèles de comportement ne sont pas immédiatement évidents et nécessitent du temps pour se développer et comprendre. Cela fait de la distinction entre les critiques authentiques et fausses un défi continu.

Gérer de véritables avis assistés par l'IA

TrustPilot évalue si les examinateurs ont eu une véritable expérience avec une entreprise et si cette expérience se reflète avec précision dans leur examen. Des facteurs tels que le contenu copié à partir d'autres sources, y compris le texte généré par l'IA, sont pris en compte lors de la détermination de la suspecte d'un examen. Si un haut degré de suspicion est trouvé, l'examen est supprimé et le réviseur est informé et a eu la possibilité de contester la décision. TrustPilot vise à trouver un équilibre, reconnaissant que les outils d'IA peuvent aider les examinateurs à encadrer de véritables expériences, en particulier pour les personnes ayant des besoins d'accessibilité ou de neurodiversité.

Équilibrer la détection automatisée avec la surveillance humaine

TrustPilot garantit que les humains sont impliqués dans la conception et la mise en œuvre de son logiciel d'automatisation. Bien que l'automatisation soit cruciale pour la mise à l'échelle des opérations, les problèmes résolvent les problèmes que Trustpilot est fondamentalement humain, et ces défis évoluent avec le temps. Par conséquent, l'automatisation doit s'adapter sur la base des idées tirées du comportement humain.

Changements dans les taux de détection de faux examen au fil du temps

Malgré une augmentation annuelle des examens totaux de 46 millions au cours de l'exercice 2022 à 54 millions au cours de l'exercice 2023, la proportion de fausses avis supprimées est restée cohérente à 6%. En 2023, les systèmes de TrustPilot ont détecté et supprimé 79% des fausses critiques, présentant l'efficacité de leur investissement en cours dans la technologie. Alors que l'IA et l'apprentissage automatique continuent d'évoluer, la concentration de TrustPilot sur les modèles comportementaux et les rapports communautaires aide à maintenir un système de détection robuste.

Effets à long terme des fausses critiques sur la confiance et la réputation

Les fausses avis peuvent avoir un impact significatif sur les décisions des consommateurs, conduisant à des expériences négatives et à une perte de confiance dans les plateformes en ligne. Si les plateformes ne parviennent pas à résoudre efficacement les fausses avis, les consommateurs peuvent perdre confiance dans les plateformes qu'ils utilisent pour prendre des décisions d'achat, affectant à la fois la confiance des consommateurs et la réputation commerciale.

Considérations éthiques dans l'utilisation de l'IA pour la modération de l'examen

La transparence est au cœur de l'approche éthique de Trustpilot pour utiliser l'IA dans la modération de l'examen. L'entreprise est ouverte sur son utilisation de l'IA pour la prise de décision automatisée, s'alignant sur son engagement à favoriser la confiance entre les consommateurs et les entreprises.

Éduquer les consommateurs sur l'identification de véritables avis

TrustPilot utilise des signaux de confiance pour mettre en évidence les avis vérifiés et permet aux examinateurs de se vérifier, garantissant que les consommateurs peuvent faire la distinction entre les différents types d'examens. De plus, lorsque des mesures d'application sont prises contre les entreprises pour une mauvaise utilisation de la plate-forme, TrustPilot affiche les avertissements des consommateurs pour aider les consommateurs à faire des choix éclairés.

Avenir de l'IA dans la lutte contre les fausses critiques

L'avenir détient un potentiel important pour l'utilisation de l'IA pour lutter contre les fausses critiques, en particulier avec la capacité générative de l'IA à prédire les modèles. Les données et l'expérience approfondies de TrustPilot depuis 2007 positionnent bien de développer de meilleurs modèles de détection de faux faux. De plus, l'IA peut améliorer la transparence et guider les utilisateurs en ligne, mais avec une sophistication accrue s'accompagne d'une plus grande responsabilité.

Développements futurs dans les critiques en ligne

À mesure que la distinction entre le contenu généré par l'homme et généré par l'IA augmente, la valeur d'un contenu authentique basé sur l'expérience augmentera. Des plateformes comme TrustPilot, qui investissent dans la technologie, les personnes, la communauté et les processus pour mettre en évidence des voix authentiques, deviendront de plus en plus précieuses pour les consommateurs et les entreprises.

Nous aimerions exercer notre gratitude à Anoop Joshi pour cette interview perspicace. Ses perspectives offrent des informations précieuses sur la navigation dans le monde complexe des critiques en ligne. Que pensez-vous? Ces idées vous ont-elles aidé à mieux comprendre comment passer à travers les critiques en ligne? Partagez vos réflexions dans les commentaires ci-dessous.

Restez à jour avec mes mises à jour quotidiennes de projet sur les réseaux sociaux. N'oubliez pas de vous abonner à ma newsletter hebdomadaire et suivez-moi sur Twitter / X à @davidgewirtz, sur Facebook sur Facebook.com/davidgewirtz, sur Instagram sur Instagram.com/davidgewirtz, et sur YouTube sur youtube.com/davidgewirtztv.