Noticias
Las críticas falsas son un gran problema, y así es como la IA podría ayudar a solucionarlo
Las críticas falsas son un gran problema, y así es como la IA podría ayudar a solucionarlo
1 de mayo de 2025
ScottWalker
0
Desde su inicio en 2007, TrustPilot se ha convertido en una plataforma de referencia para las revisiones de los usuarios, acumulando un asombroso cogido de 238 millones de revisiones en casi un millón de negocios y abarcando 50 nacionalidades. Si bien TrustPilot presenta revisiones de las empresas estadounidenses, descubrí que las tiendas locales que busqué no estaban en la lista, y tuve más éxito con Yelp. Parece que Trustpilot tiene un punto de apoyo más fuerte en Europa, pero para nuestra discusión aquí, el enfoque geográfico no es nuestra principal preocupación. En cambio, estamos sumergiendo en un tema crítico que afecta a los sitios de revisión: la proliferación de revisiones falsas.
En 2023, TrustPilot logró identificar y eliminar 3.3 millones de revisiones falsas, luego de la eliminación de 2.6 millones el año anterior. Esta batalla en curso contra las críticas falsas se hace aún más desafiante por el surgimiento de la IA generativa. Según la investigación publicada en las Actas de la Academia Nacional de Ciencias de los Estados Unidos de América (PNA), solo aproximadamente la mitad de los consumidores pueden diferenciar entre el texto generado por la IA y el contenido escrito por los humanos. Esto crea un obstáculo significativo tanto para los consumidores como para las plataformas como Trustpilot, a quienes tienen la tarea de filtrar revisiones falsas para garantizar la autenticidad de las opiniones de los consumidores.
Trustpilot ha hecho que sea una misión central abordar este problema de frente. En una conversación perspicaz con Anoop Joshi, el director de confianza de Trustpilot, profundizamos en cómo la compañía está luchando contra las críticas falsas generadas por AI.
El viaje de Anoop Joshi al director de confianza de Trustpilot
Anoop Joshi, quien ha estado con Trustpilot durante más de cuatro años, lidera la confianza y las operaciones legales y de privacidad de la compañía con un equipo de aproximadamente 80. Su papel abarca un amplio espectro de actividades, incluidos litigios, asuntos públicos, comunicaciones globales, contratación comercial, moderación de contenido, protección de marca e investigaciones de fraude. Inicialmente, Joshi fue responsable del trabajo relacionado con la aplicación, abordando el mal uso de la plataforma Trustpilot por parte de empresas o consumidores, y abordar problemas como revisiones falsas y diversas formas de abuso.
Su equipo se convirtió en el primer equipo de integridad de la plataforma de la compañía, mejorando el lado operativo de la confianza y la seguridad. Este trabajo obtuvo el reconocimiento de la industria, lo que llevó a Trustpilot a convertirse en miembro fundador de la Coalición de Revisiones de confianza junto con los principales actores como Amazon, TripAdvisor, Glassdoor, Booking.com y Expedia. Los antecedentes de Joshi como abogado e ingeniero de software lo posicionan de manera única para navegar por la intersección de la ley y la tecnología, crucial para construir y mantener la confianza en la plataforma.
Definición del papel de un director de confianza
Según Joshi, el papel de un director de confianza de Trustpilot es garantizar que la empresa esté a la altura de su visión de ser el símbolo universal de la confianza. Esto implica definir qué significa confianza para Trustpilot, que incluye la integridad de las revisiones, el contenido en el sitio web y cómo la empresa trata tanto a los consumidores como a las empresas. Además, el rol impulsa la gobernanza y los procesos que mitigan el riesgo, garantizan el cumplimiento y, en última instancia, fomentan la confianza y la lealtad entre las partes interesadas, como los consumidores, empleados, empresas, inversores, formuladores de políticas y periodistas. A medida que la tecnología se vuelve más generalizada y crece el compromiso en línea, se espera que aumente la necesidad de tales roles en el C-suite.
Tipos comunes de revisiones falsas en Trustpilot
TrustPilot clasifica las revisiones falsas como aquellas que no se basan en experiencias genuinas o las destinadas a engañar a los lectores. Los tipos más comunes que encuentran y eliminan incluyen:
- Reseñas de spam: revisiones que sirven como anuncios o promueven otros negocios.
- Conflictos de intereses: revisiones dejadas por dueños de negocios o empleados sobre su propio negocio.
- Revisiones engañosas: revisiones presentadas por personas que en realidad no han experimentado el negocio.
- Revisiones basadas en incentivos: revisiones influenciadas por incentivos, a menudo con contenido engañoso.
Impacto del contenido generado por IA en la autenticidad de revisión
El aumento de la IA generativa ha facilitado a las personas crear contenido, reduciendo las barreras para generar revisiones falsas. El enfoque de Trustpilot para detectar estas revisiones se centra en los comportamientos en lugar de solo en el contenido en sí. Sus sistemas automatizados analizan cómo se presentan las revisiones, buscando patrones y marcadores sospechosos, al tiempo que consideran la relación entre el revisor y el negocio. A pesar del advenimiento de tecnologías como ChatGPT, el último informe de transparencia de Trustpilot indica una tasa de detección constante de revisiones falsas año tras año, lo que sugiere que sus sistemas se mantienen bien contra este desafío.
Cómo TrustPilot detecta revisiones falsas utilizando IA y aprendizaje automático
Cada revisión presentada a TrustPilot sufre el análisis mediante motores de detección de revisión falsas automatizadas. Estos motores consideran varias facetas de la revisión, como el comportamiento previo del revisor y cualquier declaración promocional. Algunos patrones pueden tomar tiempo para emerger antes de que se tomen medidas. Además, TrustPilot se basa en su comunidad de consumidores y empresas para marcar revisiones sospechosas, que luego son revisados por moderadores humanos en el equipo de integridad de contenido. Si se elimina una revisión, se notifica al revisor y se le da la oportunidad de apelar la decisión. Esta combinación de detección automatizada y supervisión humana ayuda a mejorar continuamente el enfoque de Trustpilot para identificar y eliminar revisiones falsas.
Desafíos para distinguir revisiones genuinas y falsas
Uno de los principales desafíos que enfrenta Trustpilot es que algunos patrones de comportamiento no son inmediatamente obvios y requieren tiempo para desarrollar y comprender. Esto hace que la distinción entre las críticas genuinas y falsas sea un desafío continuo.
Manejo de revisiones genuinas asistidas por AI
Trustpilot evalúa si los revisores han tenido una experiencia genuina con un negocio y si esa experiencia se refleja con precisión en su revisión. Se consideran factores como el contenido copiado de otras fuentes, incluido el texto generado por IA, al determinar si una revisión es sospechosa. Si se encuentra un alto grado de sospecha, se elimina la revisión y se informa al revisor y se le da la oportunidad de desafiar la decisión. TrustPilot tiene como objetivo lograr un equilibrio, reconociendo que las herramientas de IA pueden ayudar a los revisores a enmarcar experiencias genuinas, especialmente para aquellos con accesibilidad o necesidades de neurodiversidad.
Equilibrar la detección automatizada con supervisión humana
TrustPilot asegura que los humanos estén involucrados en el diseño e implementación de su software de automatización. Si bien la automatización es crucial para el escala de las operaciones, los problemas que se resuelve TrustPilot son fundamentalmente humanos, y estos desafíos evolucionan con el tiempo. Por lo tanto, la automatización debe adaptarse en función de las ideas obtenidas del comportamiento humano.
Cambios en las tasas de detección de revisión falsas con el tiempo
A pesar de un aumento interanual en las revisiones totales de 46 millones en el año fiscal 2022 a 54 millones en el año fiscal 2023, la proporción de revisiones falsas eliminadas fue consistente al 6%. En 2023, los sistemas de Trustpilot detectaron y eliminaron el 79% de las revisiones falsas, mostrando la efectividad de su inversión continua en tecnología. Si bien la IA y el aprendizaje automático continúan evolucionando, el enfoque de Trustpilot en los patrones de comportamiento y los informes comunitarios ayuda a mantener un sistema de detección robusto.
Efectos a largo plazo de revisiones falsas sobre confianza y reputación
Las revisiones falsas pueden afectar significativamente las decisiones del consumidor, lo que lleva a experiencias negativas y una pérdida de confianza en las plataformas en línea. Si las plataformas no abordan las revisiones falsas de manera efectiva, los consumidores pueden perder la fe en las plataformas que usan para tomar decisiones de compra, afectando tanto la confianza del consumidor como la reputación comercial.
Consideraciones éticas en el uso de IA para la moderación de revisión
La transparencia está en el corazón del enfoque ético de Trustpilot para usar la IA en la moderación de la revisión. La compañía está abierta sobre su uso de IA para la toma de decisiones automatizada, alineándose con su compromiso de fomentar la confianza entre los consumidores y las empresas.
Educar a los consumidores sobre la identificación de revisiones reales
TrustPilot utiliza señales de confianza para resaltar las revisiones verificadas y permite a los revisores verificarse a sí mismos, asegurando que los consumidores puedan distinguir entre diferentes tipos de revisiones. Además, cuando se toman medidas de cumplimiento contra las empresas para el mal uso de la plataforma, TrustPilot muestra advertencias de los consumidores para ayudar a los consumidores a tomar decisiones informadas.
Futuro de la IA en la lucha contra las críticas falsas
El futuro tiene un potencial significativo para el uso de AI para combatir las revisiones falsas, particularmente con la capacidad generativa de la IA para predecir patrones. Los extensos datos y la experiencia de Trustpilot desde 2007 posicionan bien desarrollar mejores modelos de detección falsos. Además, la IA puede mejorar la transparencia y guiar a los usuarios en línea, pero con una mayor sofisticación viene una mayor responsabilidad.
Desarrollos futuros en revisiones en línea
A medida que crece la distinción entre el contenido generado por humanos y generado por IA, aumentará el valor del contenido genuino basado en la experiencia. Plataformas como Trustpilot, que invierten en tecnología, personas, comunidad y procesos para resaltar voces auténticas, se volverán cada vez más valiosas tanto para los consumidores como para las empresas.
Nos gustaría extender nuestra gratitud a Anoop Joshi por esta perspectiva entrevista. Sus perspectivas ofrecen información valiosa para navegar por el complejo mundo de las revisiones en línea. ¿Cuáles son tus pensamientos? ¿Estas ideas lo han ayudado a comprender mejor cómo examinar las revisiones en línea? Comparta sus pensamientos en los comentarios a continuación.
Manténgase actualizado con mis actualizaciones diarias del proyecto en las redes sociales. No olvide suscribirse a mi boletín semanal y sígueme en Twitter/X en @DavidgeWirtz, en Facebook en Facebook.com/davidgewirtz, en Instagram en Instagram.com/davidgewirtz y en YouTube en YouTube.com/davidgewirtztv.
Artículo relacionado
Batalla de Trump vs. Gru en la portada generada por AI del ídolo de Yoasobi
La inteligencia artificial está revolucionando la industria de la música de manera emocionante e inesperada. Uno de los desarrollos más fascinantes es el surgimiento de portadas musicales generadas por IA. Estas portadas usan AI para replicar las voces de figuras o caracteres ficticios conocidos, trayendo NE
Fotos de perfil de LinkedIn mejoradas con AI: ¡Amplifique su alcance profesional!
En el panorama digital de hoy, su foto de perfil de LinkedIn no es solo una foto, es su primera impresión profesional. Para los equipos remotos, mantener una mirada consistente y profesional en todos los perfiles puede ser un verdadero desafío. Este artículo profundiza en cómo AI, específicamente herramientas como Flux.1 de B
Encontrar la fuerza en la incertidumbre: abrazar la impermanencia
En el mundo en constante cambio de hoy, la capacidad de adaptarse y florecer en medio de la incertidumbre es más vital que nunca. El concepto de impermanencia, un principio fundamental en muchas enseñanzas filosóficas y espirituales, proporciona una lente profunda a través de la cual podemos entender y navegar por el flujo constante de la vida.
Comentario (0)
0/200
1 de mayo de 2025
ScottWalker
0
Desde su inicio en 2007, TrustPilot se ha convertido en una plataforma de referencia para las revisiones de los usuarios, acumulando un asombroso cogido de 238 millones de revisiones en casi un millón de negocios y abarcando 50 nacionalidades. Si bien TrustPilot presenta revisiones de las empresas estadounidenses, descubrí que las tiendas locales que busqué no estaban en la lista, y tuve más éxito con Yelp. Parece que Trustpilot tiene un punto de apoyo más fuerte en Europa, pero para nuestra discusión aquí, el enfoque geográfico no es nuestra principal preocupación. En cambio, estamos sumergiendo en un tema crítico que afecta a los sitios de revisión: la proliferación de revisiones falsas.
En 2023, TrustPilot logró identificar y eliminar 3.3 millones de revisiones falsas, luego de la eliminación de 2.6 millones el año anterior. Esta batalla en curso contra las críticas falsas se hace aún más desafiante por el surgimiento de la IA generativa. Según la investigación publicada en las Actas de la Academia Nacional de Ciencias de los Estados Unidos de América (PNA), solo aproximadamente la mitad de los consumidores pueden diferenciar entre el texto generado por la IA y el contenido escrito por los humanos. Esto crea un obstáculo significativo tanto para los consumidores como para las plataformas como Trustpilot, a quienes tienen la tarea de filtrar revisiones falsas para garantizar la autenticidad de las opiniones de los consumidores.
Trustpilot ha hecho que sea una misión central abordar este problema de frente. En una conversación perspicaz con Anoop Joshi, el director de confianza de Trustpilot, profundizamos en cómo la compañía está luchando contra las críticas falsas generadas por AI.
El viaje de Anoop Joshi al director de confianza de Trustpilot
Anoop Joshi, quien ha estado con Trustpilot durante más de cuatro años, lidera la confianza y las operaciones legales y de privacidad de la compañía con un equipo de aproximadamente 80. Su papel abarca un amplio espectro de actividades, incluidos litigios, asuntos públicos, comunicaciones globales, contratación comercial, moderación de contenido, protección de marca e investigaciones de fraude. Inicialmente, Joshi fue responsable del trabajo relacionado con la aplicación, abordando el mal uso de la plataforma Trustpilot por parte de empresas o consumidores, y abordar problemas como revisiones falsas y diversas formas de abuso.
Su equipo se convirtió en el primer equipo de integridad de la plataforma de la compañía, mejorando el lado operativo de la confianza y la seguridad. Este trabajo obtuvo el reconocimiento de la industria, lo que llevó a Trustpilot a convertirse en miembro fundador de la Coalición de Revisiones de confianza junto con los principales actores como Amazon, TripAdvisor, Glassdoor, Booking.com y Expedia. Los antecedentes de Joshi como abogado e ingeniero de software lo posicionan de manera única para navegar por la intersección de la ley y la tecnología, crucial para construir y mantener la confianza en la plataforma.
Definición del papel de un director de confianza
Según Joshi, el papel de un director de confianza de Trustpilot es garantizar que la empresa esté a la altura de su visión de ser el símbolo universal de la confianza. Esto implica definir qué significa confianza para Trustpilot, que incluye la integridad de las revisiones, el contenido en el sitio web y cómo la empresa trata tanto a los consumidores como a las empresas. Además, el rol impulsa la gobernanza y los procesos que mitigan el riesgo, garantizan el cumplimiento y, en última instancia, fomentan la confianza y la lealtad entre las partes interesadas, como los consumidores, empleados, empresas, inversores, formuladores de políticas y periodistas. A medida que la tecnología se vuelve más generalizada y crece el compromiso en línea, se espera que aumente la necesidad de tales roles en el C-suite.
Tipos comunes de revisiones falsas en Trustpilot
TrustPilot clasifica las revisiones falsas como aquellas que no se basan en experiencias genuinas o las destinadas a engañar a los lectores. Los tipos más comunes que encuentran y eliminan incluyen:
- Reseñas de spam: revisiones que sirven como anuncios o promueven otros negocios.
- Conflictos de intereses: revisiones dejadas por dueños de negocios o empleados sobre su propio negocio.
- Revisiones engañosas: revisiones presentadas por personas que en realidad no han experimentado el negocio.
- Revisiones basadas en incentivos: revisiones influenciadas por incentivos, a menudo con contenido engañoso.
Impacto del contenido generado por IA en la autenticidad de revisión
El aumento de la IA generativa ha facilitado a las personas crear contenido, reduciendo las barreras para generar revisiones falsas. El enfoque de Trustpilot para detectar estas revisiones se centra en los comportamientos en lugar de solo en el contenido en sí. Sus sistemas automatizados analizan cómo se presentan las revisiones, buscando patrones y marcadores sospechosos, al tiempo que consideran la relación entre el revisor y el negocio. A pesar del advenimiento de tecnologías como ChatGPT, el último informe de transparencia de Trustpilot indica una tasa de detección constante de revisiones falsas año tras año, lo que sugiere que sus sistemas se mantienen bien contra este desafío.
Cómo TrustPilot detecta revisiones falsas utilizando IA y aprendizaje automático
Cada revisión presentada a TrustPilot sufre el análisis mediante motores de detección de revisión falsas automatizadas. Estos motores consideran varias facetas de la revisión, como el comportamiento previo del revisor y cualquier declaración promocional. Algunos patrones pueden tomar tiempo para emerger antes de que se tomen medidas. Además, TrustPilot se basa en su comunidad de consumidores y empresas para marcar revisiones sospechosas, que luego son revisados por moderadores humanos en el equipo de integridad de contenido. Si se elimina una revisión, se notifica al revisor y se le da la oportunidad de apelar la decisión. Esta combinación de detección automatizada y supervisión humana ayuda a mejorar continuamente el enfoque de Trustpilot para identificar y eliminar revisiones falsas.
Desafíos para distinguir revisiones genuinas y falsas
Uno de los principales desafíos que enfrenta Trustpilot es que algunos patrones de comportamiento no son inmediatamente obvios y requieren tiempo para desarrollar y comprender. Esto hace que la distinción entre las críticas genuinas y falsas sea un desafío continuo.
Manejo de revisiones genuinas asistidas por AI
Trustpilot evalúa si los revisores han tenido una experiencia genuina con un negocio y si esa experiencia se refleja con precisión en su revisión. Se consideran factores como el contenido copiado de otras fuentes, incluido el texto generado por IA, al determinar si una revisión es sospechosa. Si se encuentra un alto grado de sospecha, se elimina la revisión y se informa al revisor y se le da la oportunidad de desafiar la decisión. TrustPilot tiene como objetivo lograr un equilibrio, reconociendo que las herramientas de IA pueden ayudar a los revisores a enmarcar experiencias genuinas, especialmente para aquellos con accesibilidad o necesidades de neurodiversidad.
Equilibrar la detección automatizada con supervisión humana
TrustPilot asegura que los humanos estén involucrados en el diseño e implementación de su software de automatización. Si bien la automatización es crucial para el escala de las operaciones, los problemas que se resuelve TrustPilot son fundamentalmente humanos, y estos desafíos evolucionan con el tiempo. Por lo tanto, la automatización debe adaptarse en función de las ideas obtenidas del comportamiento humano.
Cambios en las tasas de detección de revisión falsas con el tiempo
A pesar de un aumento interanual en las revisiones totales de 46 millones en el año fiscal 2022 a 54 millones en el año fiscal 2023, la proporción de revisiones falsas eliminadas fue consistente al 6%. En 2023, los sistemas de Trustpilot detectaron y eliminaron el 79% de las revisiones falsas, mostrando la efectividad de su inversión continua en tecnología. Si bien la IA y el aprendizaje automático continúan evolucionando, el enfoque de Trustpilot en los patrones de comportamiento y los informes comunitarios ayuda a mantener un sistema de detección robusto.
Efectos a largo plazo de revisiones falsas sobre confianza y reputación
Las revisiones falsas pueden afectar significativamente las decisiones del consumidor, lo que lleva a experiencias negativas y una pérdida de confianza en las plataformas en línea. Si las plataformas no abordan las revisiones falsas de manera efectiva, los consumidores pueden perder la fe en las plataformas que usan para tomar decisiones de compra, afectando tanto la confianza del consumidor como la reputación comercial.
Consideraciones éticas en el uso de IA para la moderación de revisión
La transparencia está en el corazón del enfoque ético de Trustpilot para usar la IA en la moderación de la revisión. La compañía está abierta sobre su uso de IA para la toma de decisiones automatizada, alineándose con su compromiso de fomentar la confianza entre los consumidores y las empresas.
Educar a los consumidores sobre la identificación de revisiones reales
TrustPilot utiliza señales de confianza para resaltar las revisiones verificadas y permite a los revisores verificarse a sí mismos, asegurando que los consumidores puedan distinguir entre diferentes tipos de revisiones. Además, cuando se toman medidas de cumplimiento contra las empresas para el mal uso de la plataforma, TrustPilot muestra advertencias de los consumidores para ayudar a los consumidores a tomar decisiones informadas.
Futuro de la IA en la lucha contra las críticas falsas
El futuro tiene un potencial significativo para el uso de AI para combatir las revisiones falsas, particularmente con la capacidad generativa de la IA para predecir patrones. Los extensos datos y la experiencia de Trustpilot desde 2007 posicionan bien desarrollar mejores modelos de detección falsos. Además, la IA puede mejorar la transparencia y guiar a los usuarios en línea, pero con una mayor sofisticación viene una mayor responsabilidad.
Desarrollos futuros en revisiones en línea
A medida que crece la distinción entre el contenido generado por humanos y generado por IA, aumentará el valor del contenido genuino basado en la experiencia. Plataformas como Trustpilot, que invierten en tecnología, personas, comunidad y procesos para resaltar voces auténticas, se volverán cada vez más valiosas tanto para los consumidores como para las empresas.
Nos gustaría extender nuestra gratitud a Anoop Joshi por esta perspectiva entrevista. Sus perspectivas ofrecen información valiosa para navegar por el complejo mundo de las revisiones en línea. ¿Cuáles son tus pensamientos? ¿Estas ideas lo han ayudado a comprender mejor cómo examinar las revisiones en línea? Comparta sus pensamientos en los comentarios a continuación.
Manténgase actualizado con mis actualizaciones diarias del proyecto en las redes sociales. No olvide suscribirse a mi boletín semanal y sígueme en Twitter/X en @DavidgeWirtz, en Facebook en Facebook.com/davidgewirtz, en Instagram en Instagram.com/davidgewirtz y en YouTube en YouTube.com/davidgewirtztv.
Batalla de Trump vs. Gru en la portada generada por AI del ídolo de Yoasobi
La inteligencia artificial está revolucionando la industria de la música de manera emocionante e inesperada. Uno de los desarrollos más fascinantes es el surgimiento de portadas musicales generadas por IA. Estas portadas usan AI para replicar las voces de figuras o caracteres ficticios conocidos, trayendo NE
Fotos de perfil de LinkedIn mejoradas con AI: ¡Amplifique su alcance profesional!
En el panorama digital de hoy, su foto de perfil de LinkedIn no es solo una foto, es su primera impresión profesional. Para los equipos remotos, mantener una mirada consistente y profesional en todos los perfiles puede ser un verdadero desafío. Este artículo profundiza en cómo AI, específicamente herramientas como Flux.1 de B
Encontrar la fuerza en la incertidumbre: abrazar la impermanencia
En el mundo en constante cambio de hoy, la capacidad de adaptarse y florecer en medio de la incertidumbre es más vital que nunca. El concepto de impermanencia, un principio fundamental en muchas enseñanzas filosóficas y espirituales, proporciona una lente profunda a través de la cual podemos entender y navegar por el flujo constante de la vida.
