Gefälschte Bewertungen sind ein großes Problem - und so könnte die KI helfen, es zu beheben

Seit seiner Gründung im Jahr 2007 hat sich Trustpilot zu einer führenden Plattform für Nutzerbewertungen entwickelt und beeindruckende 238 Millionen Bewertungen von fast einer Million Unternehmen aus 50 Nationalitäten gesammelt. Obwohl Trustpilot Bewertungen von US-Unternehmen enthält, stellte ich fest, dass lokale Geschäfte, die ich suchte, nicht gelistet waren, und ich hatte mit Yelp mehr Erfolg. Trustpilot scheint in Europa stärker vertreten zu sein, aber für unsere Diskussion hier ist der geografische Fokus nicht das Hauptthema. Stattdessen tauchen wir in ein kritisches Problem ein, das Bewertungsseiten plagt: die Verbreitung gefälschter Bewertungen.

Im Jahr 2023 gelang es Trustpilot, 3,3 Millionen gefälschte Bewertungen zu identifizieren und zu entfernen, nach 2,6 Millionen im Vorjahr. Dieser anhaltende Kampf gegen gefälschte Bewertungen wird durch den Aufstieg generativer KI noch herausfordernder. Laut einer Studie in den Proceedings of the National Academy of Sciences of the United States of America (PNAS) können nur etwa die Hälfte der Verbraucher zwischen KI-generiertem Text und von Menschen geschriebenem Inhalt unterscheiden. Dies stellt eine erhebliche Hürde für Verbraucher und Plattformen wie Trustpilot dar, die die Aufgabe haben, gefälschte Bewertungen herauszufiltern, um die Authentizität der Verbrauchermeinungen sicherzustellen.

Trustpilot hat es sich zur Kernmission gemacht, dieses Problem direkt anzugehen. In einem aufschlussreichen Gespräch mit Anoop Joshi, Trustpilots Chief Trust Officer, haben wir untersucht, wie das Unternehmen gegen KI-generierte gefälschte Bewertungen vorgeht.

Anoop Joshis Weg zum Chief Trust Officer bei Trustpilot

Anoop Joshi, der seit über vier Jahren bei Trustpilot ist, leitet die Trust and Safety- sowie Legal and Privacy-Operationen des Unternehmens mit einem Team von etwa 80 Mitarbeitern. Seine Rolle umfasst ein breites Spektrum an Aktivitäten, einschließlich Rechtsstreitigkeiten, öffentliche Angelegenheiten, globale Kommunikation, Handelsverträge, Inhaltsmoderation, Markenschutz und Betrugsuntersuchungen. Anfangs war Joshi für durchsetzungsbezogene Arbeiten zuständig, die den Missbrauch auf der Trustpilot-Plattform durch Unternehmen oder Verbraucher bekämpften und Probleme wie gefälschte Bewertungen und verschiedene Formen von Missbrauch ansprachen.

Sein Team entwickelte sich zum ersten Plattform-Integritätsteam des Unternehmens und verbesserte die operative Seite von Vertrauen und Sicherheit. Diese Arbeit erhielt Branchenanerkennung, was dazu führte, dass Trustpilot Gründungsmitglied der Coalition of Trusted Reviews wurde, zusammen mit großen Akteuren wie Amazon, TripAdvisor, Glassdoor, Booking.com und Expedia. Joshis Hintergrund als Anwalt und Softwareingenieur positioniert ihn einzigartig, um die Schnittstelle von Recht und Technologie zu navigieren, was für den Aufbau und die Aufrechterhaltung von Vertrauen auf der Plattform entscheidend ist.

Definition der Rolle eines Chief Trust Officer

Laut Joshi besteht die Rolle eines Chief Trust Officer bei Trustpilot darin, sicherzustellen, dass das Unternehmen seiner Vision gerecht wird, das universelle Symbol für Vertrauen zu sein. Dies umfasst die Definition von Vertrauen für Trustpilot, einschließlich der Integrität von Bewertungen, der Inhalte auf der Website und wie das Unternehmen sowohl Verbraucher als auch Unternehmen behandelt. Darüber hinaus treibt die Rolle Governance und Prozesse voran, die Risiken mindern, die Einhaltung von Vorschriften sicherstellen und letztendlich Vertrauen und Loyalität unter Stakeholdern wie Verbrauchern, Mitarbeitern, Unternehmen, Investoren, politischen Entscheidungsträgern und Journalisten fördern. Da Technologie immer durchdringender wird und die Online-Interaktion wächst, wird die Notwendigkeit solcher Rollen in der Führungsebene voraussichtlich zunehmen.

Häufige Arten von gefälschten Bewertungen auf Trustpilot

Trustpilot stuft Bewertungen als gefälscht ein, die nicht auf echten Erfahrungen basieren oder darauf abzielen, Leser zu täuschen. Die häufigsten Typen, die sie begegnen und entfernen, umfassen:

• Spam-Bewertungen: Bewertungen, die als Werbung dienen oder andere Unternehmen fördern.
• Interessenkonflikte: Bewertungen, die von Geschäftsinhabern oder Mitarbeitern über ihr eigenes Unternehmen abgegeben werden.
• Irrführende Bewertungen: Bewertungen von Personen, die das Unternehmen tatsächlich nicht erlebt haben.
• Anreizbasierte Bewertungen: Bewertungen, die durch Anreize beeinflusst sind, oft mit irreführendem Inhalt.

Einfluss von KI-generiertem Inhalt auf die Authentizität von Bewertungen

Der Aufstieg generativer KI hat es Einzelpersonen erleichtert, Inhalte zu erstellen und die Hürden für die Erstellung gefälschter Bewertungen gesenkt. Trustpilots Ansatz zur Erkennung dieser Bewertungen konzentriert sich auf Verhaltensweisen statt nur auf den Inhalt selbst. Ihre automatisierten Systeme analysieren, wie Bewertungen eingereicht werden, suchen nach Mustern und verdächtigen Markern und berücksichtigen die Beziehung zwischen dem Bewerter und dem Unternehmen. Trotz des Aufkommens von Technologien wie ChatGPT zeigt Trustpilots neuesten Transparenzbericht eine konstante Erkennungsrate von gefälschten Bewertungen im Jahresvergleich, was darauf hindeutet, dass ihre Systeme dieser Herausforderung gut standhalten.

Wie Trustpilot gefälschte Bewertungen mit KI und maschinellem Lernen erkennt

Jede auf Trustpilot eingereichte Bewertung wird von automatisierten Erkennungssystemen für gefälschte Bewertungen analysiert. Diese Systeme berücksichtigen verschiedene Aspekte der Bewertung, wie das frühere Verhalten des Bewerters und werbliche Aussagen. Einige Muster können Zeit benötigen, um sich zu zeigen, bevor Maßnahmen ergriffen werden. Zusätzlich verlässt sich Trustpilot auf seine Gemeinschaft von Verbrauchern und Unternehmen, um verdächtige Bewertungen zu melden, die dann von menschlichen Moderatoren im Content-Integrity-Team überprüft werden. Wenn eine Bewertung entfernt wird, wird der Bewerter benachrichtigt und erhält die Möglichkeit, gegen die Entscheidung Berufung einzulegen. Diese Kombination aus automatisierter Erkennung und menschlicher Aufsicht hilft, Trustpilots Ansatz zur Identifizierung und Entfernung gefälschter Bewertungen kontinuierlich zu verbessern.

Herausforderungen beim Unterscheiden von echten und gefälschten Bewertungen

Eine der Hauptherausforderungen, denen sich Trustpilot gegenübersieht, ist, dass einige Verhaltensmuster nicht sofort offensichtlich sind und Zeit benötigen, um sich zu entwickeln und zu verstehen. Dies macht das Unterscheiden zwischen echten und gefälschten Bewertungen zu einer kontinuierlichen Herausforderung.

Umgang mit echten Bewertungen, die durch KI unterstützt werden

Trustpilot bewertet, ob Bewerter eine echte Erfahrung mit einem Unternehmen hatten und ob diese Erfahrung in ihrer Bewertung genau widergespiegelt wird. Faktoren wie kopierte Inhalte aus anderen Quellen, einschließlich KI-generiertem Text, werden berücksichtigt, um festzustellen, ob eine Bewertung verdächtig ist. Wenn ein hoher Verdacht besteht, wird die Bewertung entfernt, und der Bewerter wird informiert und erhält die Möglichkeit, die Entscheidung anzufechten. Trustpilot strebt ein Gleichgewicht an, indem es anerkennt, dass KI-Tools Bewertern helfen können, echte Erfahrungen zu formulieren, insbesondere für diejenigen mit Barrierefreiheits- oder Neurodiversitätsbedürfnissen.

Ausbalancieren von automatisierter Erkennung mit menschlicher Aufsicht

Trustpilot stellt sicher, dass Menschen an der Gestaltung und Implementierung ihrer Automatisierungssoftware beteiligt sind. Während Automatisierung für die Skalierung von Operationen entscheidend ist, sind die Probleme, die Trustpilot löst, grundsätzlich menschlich, und diese Herausforderungen entwickeln sich im Laufe der Zeit weiter. Daher muss die Automatisierung basierend auf Erkenntnissen aus menschlichem Verhalten angepasst werden.

Veränderungen in der Erkennungsrate gefälschter Bewertungen im Laufe der Zeit

Trotz eines jährlichen Anstiegs der Gesamtbewertungen von 46 Millionen im Geschäftsjahr 2022 auf 54 Millionen im Geschäftsjahr 2023 blieb der Anteil der entfernten gefälschten Bewertungen konstant bei 6 %. Im Jahr 2023 erkannten und entfernten Trustpilots Systeme 79 % der gefälschten Bewertungen, was die Wirksamkeit ihrer fortlaufenden Investitionen in Technologie zeigt. Während KI und maschinelles Lernen weiterentwickelt werden, hilft Trustpilots Fokus auf Verhaltensmuster und Gemeinschaftsberichte, ein robustes Erkennungssystem aufrechtzuerhalten.

Langfristige Auswirkungen gefälschter Bewertungen auf Vertrauen und Reputation

Gefälschte Bewertungen können Verbraucherentscheidungen erheblich beeinflussen, zu negativen Erfahrungen führen und das Vertrauen in Online-Plattformen untergraben. Wenn Plattformen gefälschte Bewertungen nicht effektiv bekämpfen, könnten Verbraucher das Vertrauen in die Plattformen verlieren, die sie für Kaufentscheidungen nutzen, was sowohl das Vertrauen der Verbraucher als auch die Reputation der Unternehmen beeinträchtigt.

Ethische Überlegungen zum Einsatz von KI in der Bewertungsmoderation

Transparenz steht im Mittelpunkt von Trustpilots ethischem Ansatz beim Einsatz von KI in der Bewertungsmoderation. Das Unternehmen ist offen über die Nutzung von KI für automatisierte Entscheidungsfindung, was mit seinem Engagement übereinstimmt, Vertrauen zwischen Verbrauchern und Unternehmen zu fördern.

Aufklärung der Verbraucher über die Erkennung echter Bewertungen

Trustpilot verwendet Trust Signals, um verifizierte Bewertungen hervorzuheben, und ermöglicht es Bewertern, sich selbst zu verifizieren, damit Verbraucher zwischen verschiedenen Arten von Bewertungen unterscheiden können. Zusätzlich zeigt Trustpilot Verbraucherwarnungen an, wenn Durchsetzungsmaßnahmen gegen Unternehmen wegen Plattformmissbrauch ergriffen werden, um Verbrauchern fundierte Entscheidungen zu ermöglichen.

Zukunft der KI im Kampf gegen gefälschte Bewertungen

Die Zukunft bietet großes Potenzial für den Einsatz von KI zur Bekämpfung gefälschter Bewertungen, insbesondere mit der Fähigkeit generativer KI, Muster vorherzusagen. Trustpilots umfangreiche Daten und Erfahrung seit 2007 positionieren es gut, bessere Modelle zur Erkennung von Fälschungen zu entwickeln. Darüber hinaus kann KI die Transparenz erhöhen und Nutzer online leiten, aber mit zunehmender Raffinesse kommt auch größere Verantwortung.

Zukünftige Entwicklungen bei Online-Bewertungen

Da der Unterschied zwischen menschen- und KI-generierten Inhalten wächst, wird der Wert echter, erfahrungsbasierter Inhalte steigen. Plattformen wie Trustpilot, die in Technologie, Menschen, Gemeinschaft und Prozesse investieren, um authentische Stimmen hervorzuheben, werden für Verbraucher und Unternehmen zunehmend wertvoll werden.

Wir möchten Anoop Joshi für dieses aufschlussreiche Interview danken. Seine Perspektiven bieten wertvolle Einblicke in die Navigation der komplexen Welt der Online-Bewertungen. Was sind deine Gedanken? Haben diese Einblicke dir geholfen, besser zu verstehen, wie man Online-Bewertungen durchsieht? Teile deine Gedanken in den Kommentaren unten.

Bleib mit meinen täglichen Projektaktualisierungen in den sozialen Medien auf dem Laufenden. Vergiss nicht, meinen wöchentlichen Newsletter zu abonnieren und mir auf Twitter/X unter @DavidGewirtz, auf Facebook unter Facebook.com/DavidGewirtz, auf Instagram unter Instagram.com/DavidGewirtz und auf YouTube unter YouTube.com/DavidGewirtzTV zu folgen.