Las críticas falsas son un gran problema, y ​​así es como la IA podría ayudar a solucionarlo

Desde su creación en 2007, Trustpilot se ha convertido en una plataforma de referencia para reseñas de usuarios, acumulando la asombrosa cifra de 238 millones de reseñas sobre casi un millón de negocios y abarcando 50 nacionalidades. Aunque Trustpilot incluye reseñas de negocios estadounidenses, descubrí que las tiendas locales que busqué no estaban listadas, y tuve más éxito con Yelp. Parece que Trustpilot tiene una presencia más fuerte en Europa, pero para nuestra discusión aquí, el enfoque geográfico no es nuestra principal preocupación. En cambio, nos sumergimos en un problema crítico que afecta a los sitios de reseñas: la proliferación de reseñas falsas.

En 2023, Trustpilot logró identificar y eliminar 3.3 millones de reseñas falsas, tras la eliminación de 2.6 millones el año anterior. Esta batalla constante contra las reseñas falsas se ha vuelto aún más desafiante con el auge de la IA generativa. Según una investigación publicada en las Actas de la Academia Nacional de Ciencias de los Estados Unidos de América (PNAS), solo aproximadamente la mitad de los consumidores puede diferenciar entre texto generado por IA y contenido escrito por humanos. Esto crea un obstáculo significativo tanto para los consumidores como para plataformas como Trustpilot, que tienen la tarea de filtrar las reseñas falsas para garantizar la autenticidad de las opiniones de los consumidores.

Trustpilot ha hecho de esta cuestión una misión central para abordarla de frente. En una conversación reveladora con Anoop Joshi, Director de Confianza de Trustpilot, profundizamos en cómo la empresa está combatiendo las reseñas falsas generadas por IA.

El camino de Anoop Joshi hacia el puesto de Director de Confianza de Trustpilot

Anoop Joshi, quien ha estado con Trustpilot durante más de cuatro años, lidera las operaciones de Confianza y Seguridad y Legal y Privacidad de la empresa con un equipo de aproximadamente 80 personas. Su rol abarca un amplio espectro de actividades, incluyendo litigios, asuntos públicos, comunicaciones globales, contratación comercial, moderación de contenido, protección de marca e investigaciones de fraude. Inicialmente, Joshi fue responsable del trabajo relacionado con la aplicación, abordando el mal uso en la plataforma de Trustpilot por parte de negocios o consumidores, y enfrentando problemas como reseñas falsas y diversas formas de abuso.

Su equipo evolucionó hasta convertirse en el primer equipo de integridad de la plataforma de la empresa, mejorando el aspecto operacional de la confianza y la seguridad. Este trabajo obtuvo reconocimiento en la industria, lo que llevó a Trustpilot a convertirse en miembro fundador de la Coalición de Reseñas Confiables junto a grandes actores como Amazon, TripAdvisor, Glassdoor, Booking.com y Expedia. La formación de Joshi como abogado e ingeniero de software lo posiciona de manera única para navegar por la intersección del derecho y la tecnología, crucial para construir y mantener la confianza en la plataforma.

Definiendo el rol de un Director de Confianza

Según Joshi, el rol de un Director de Confianza en Trustpilot es asegurar que la empresa cumpla con su visión de ser el símbolo universal de confianza. Esto implica definir qué significa la confianza para Trustpilot, lo que incluye la integridad de las reseñas, el contenido en el sitio web y cómo la empresa trata tanto a los consumidores como a los negocios. Además, el rol impulsa la gobernanza y los procesos que mitigan riesgos, aseguran el cumplimiento y, en última instancia, fomentan la confianza y la lealtad entre las partes interesadas, como consumidores, empleados, negocios, inversionistas, legisladores y periodistas. A medida que la tecnología se vuelve más omnipresente y el compromiso en línea crece, se espera que la necesidad de tales roles en la alta dirección aumente.

Tipos comunes de reseñas falsas en Trustpilot

Trustpilot clasifica las reseñas falsas como aquellas que no se basan en experiencias genuinas o que tienen la intención de engañar a los lectores. Los tipos más comunes que encuentran y eliminan incluyen:

• Reseñas de spam: Reseñas que sirven como anuncios o promocionan otros negocios.
• Conflictos de interés: Reseñas dejadas por propietarios de negocios o empleados sobre su propio negocio.
• Reseñas engañosas: Reseñas enviadas por personas que no han experimentado realmente el negocio.
• Reseñas incentivadas: Reseñas influenciadas por incentivos, a menudo con contenido engañoso.

Impacto del contenido generado por IA en la autenticidad de las reseñas

El auge de la IA generativa ha facilitado que las personas creen contenido, reduciendo las barreras para generar reseñas falsas. El enfoque de Trustpilot para detectar estas reseñas se centra en los comportamientos en lugar de solo el contenido en sí. Sus sistemas automatizados analizan cómo se envían las reseñas, buscando patrones y marcadores sospechosos, mientras también consideran la relación entre el revisor y el negocio. A pesar de la llegada de tecnologías como ChatGPT, el último Informe de Transparencia de Trustpilot indica una tasa de detección de reseñas falsas constante año tras año, lo que sugiere que sus sistemas están resistiendo bien este desafío.

Cómo Trustpilot detecta reseñas falsas usando IA y aprendizaje automático

Cada reseña enviada a Trustpilot es analizada por motores automatizados de detección de reseñas falsas. Estos motores consideran varias facetas de la reseña, como el comportamiento previo del revisor y cualquier declaración promocional. Algunos patrones pueden tardar en surgir antes de que se tomen medidas. Además, Trustpilot confía en su comunidad de consumidores y negocios para señalar reseñas sospechosas, que luego son revisadas por moderadores humanos en el equipo de integridad de contenido. Si una reseña es eliminada, se notifica al revisor y se le da la oportunidad de apelar la decisión. Esta combinación de detección automatizada y supervisión humana ayuda a mejorar continuamente el enfoque de Trustpilot para identificar y eliminar reseñas falsas.

Desafíos en distinguir reseñas genuinas y falsas

Uno de los principales desafíos que enfrenta Trustpilot es que algunos patrones de comportamiento no son inmediatamente obvios y requieren tiempo para desarrollarse y entenderse. Esto hace que distinguir entre reseñas genuinas y falsas sea un desafío continuo.

Manejo de reseñas genuinas asistidas por IA

Trustpilot evalúa si los revisores han tenido una experiencia genuina con un negocio y si esa experiencia se refleja con precisión en su reseña. Factores como el contenido copiado de otras fuentes, incluido el texto generado por IA, se consideran al determinar si una reseña es sospechosa. Si se encuentra un alto grado de sospecha, la reseña se elimina, y se informa al revisor y se le da la oportunidad de impugnar la decisión. Trustpilot busca lograr un equilibrio, reconociendo que las herramientas de IA pueden ayudar a los revisores a enmarcar experiencias genuinas, especialmente para aquellos con necesidades de accesibilidad o neurodiversidad.

Equilibrio entre detección automatizada y supervisión humana

Trustpilot asegura que los humanos estén involucrados en el diseño e implementación de su software de automatización. Aunque la automatización es crucial para escalar las operaciones, los problemas que Trustpilot resuelve son fundamentalmente humanos, y estos desafíos evolucionan con el tiempo. Por lo tanto, la automatización debe adaptarse según las percepciones obtenidas del comportamiento humano.

Cambios en las tasas de detección de reseñas falsas con el tiempo

A pesar de un aumento interanual en el total de reseñas de 46 millones en el año fiscal 2022 a 54 millones en el año fiscal 2023, la proporción de reseñas falsas eliminadas se mantuvo constante en un 6%. En 2023, los sistemas de Trustpilot detectaron y eliminaron el 79% de las reseñas falsas, mostrando la efectividad de su inversión continua en tecnología. Aunque la IA y el aprendizaje automático continúan evolucionando, el enfoque de Trustpilot en los patrones de comportamiento y los informes de la comunidad ayuda a mantener un sistema de detección robusto.

Efectos a largo plazo de las reseñas falsas en la confianza y la reputación

Las reseñas falsas pueden impactar significativamente en las decisiones de los consumidores, llevando a experiencias negativas y una pérdida de confianza en las plataformas en línea. Si las plataformas no abordan las reseñas falsas de manera efectiva, los consumidores pueden perder la fe en las plataformas que utilizan para tomar decisiones de compra, afectando tanto la confianza de los consumidores como la reputación de los negocios.

Consideraciones éticas en el uso de IA para la moderación de reseñas

La transparencia está en el corazón del enfoque ético de Trustpilot para usar IA en la moderación de reseñas. La empresa es abierta sobre su uso de IA para la toma de decisiones automatizada, alineándose con su compromiso de fomentar la confianza entre consumidores y negocios.

Educando a los consumidores sobre cómo identificar reseñas reales

Trustpilot utiliza Señales de Confianza para destacar reseñas verificadas y permite a los revisores verificarse a sí mismos, asegurando que los consumidores puedan distinguir entre diferentes tipos de reseñas. Además, cuando se toman medidas de cumplimiento contra negocios por mal uso de la plataforma, Trustpilot muestra Advertencias al Consumidor para ayudar a los consumidores a tomar decisiones informadas.

Futuro de la IA en la lucha contra las reseñas falsas

El futuro tiene un gran potencial para usar la IA en la lucha contra las reseñas falsas, particularmente con la capacidad de la IA generativa para predecir patrones. Los extensos datos y la experiencia de Trustpilot desde 2007 lo posicionan bien para desarrollar mejores modelos de detección de falsificaciones. Además, la IA puede mejorar la transparencia y guiar a los usuarios en línea, pero con una mayor sofisticación viene una mayor responsabilidad.

Desarrollos futuros en las reseñas en línea

A medida que crece la distinción entre contenido generado por humanos y contenido generado por IA, el valor del contenido genuino basado en experiencias aumentará. Plataformas como Trustpilot, que invierten en tecnología, personas, comunidad y procesos para destacar voces auténticas, se volverán cada vez más valiosas tanto para los consumidores como para los negocios.

Nos gustaría extender nuestro agradecimiento a Anoop Joshi por esta entrevista reveladora. Sus perspectivas ofrecen valiosas ideas sobre cómo navegar por el complejo mundo de las reseñas en línea. ¿Qué opinas? ¿Te han ayudado estas ideas a entender mejor cómo filtrar las reseñas en línea? Comparte tus pensamientos en los comentarios a continuación.

Mantente actualizado con mis actualizaciones diarias de proyectos en las redes sociales. No olvides suscribirte a mi boletín semanal y seguirme en Twitter/X en @DavidGewirtz, en Facebook en Facebook.com/DavidGewirtz, en Instagram en Instagram.com/DavidGewirtz y en YouTube en YouTube.com/DavidGewirtzTV.