Revisões falsas são um grande problema - e eis como a IA poderia ajudar a consertar

Desde sua criação em 2007, a Trustpilot se tornou uma plataforma de referência para avaliações de usuários, acumulando impressionantes 238 milhões de avaliações em quase um milhão de empresas, abrangendo 50 nacionalidades. Embora a Trustpilot inclua avaliações de empresas dos EUA, descobri que as lojas locais que pesquisei não estavam listadas, e tive mais sucesso com o Yelp. Parece que a Trustpilot tem uma presença mais forte na Europa, mas para nossa discussão aqui, o foco geográfico não é nossa principal preocupação. Em vez disso, estamos mergulhando em um problema crítico que afeta os sites de avaliações: a proliferação de avaliações falsas.

Em 2023, a Trustpilot conseguiu identificar e remover 3,3 milhões de avaliações falsas, após a remoção de 2,6 milhões no ano anterior. Essa batalha contínua contra avaliações falsas é ainda mais desafiadora com o avanço da IA generativa. De acordo com uma pesquisa publicada nos Proceedings of the National Academy of Sciences of the United States of America (PNAS), apenas cerca da metade dos consumidores consegue diferenciar entre texto gerado por IA e conteúdo escrito por humanos. Isso cria um obstáculo significativo tanto para os consumidores quanto para plataformas como a Trustpilot, que têm a tarefa de filtrar avaliações falsas para garantir a autenticidade das opiniões dos consumidores.

A Trustpilot fez disso uma missão central enfrentar esse problema de frente. Em uma conversa esclarecedora com Anoop Joshi, Diretor de Confiança da Trustpilot, exploramos como a empresa está combatendo as avaliações falsas geradas por IA.

A jornada de Anoop Joshi até o cargo de Diretor de Confiança da Trustpilot

Anoop Joshi, que está na Trustpilot há mais de quatro anos, lidera as operações de Confiança e Segurança e Legal e Privacidade da empresa com uma equipe de cerca de 80 pessoas. Seu papel abrange um amplo espectro de atividades, incluindo litígios, assuntos públicos, comunicações globais, contratos comerciais, moderação de conteúdo, proteção de marca e investigações de fraudes. Inicialmente, Joshi era responsável pelo trabalho relacionado à aplicação de regras, lidando com o uso indevido da plataforma Trustpilot por empresas ou consumidores, e abordando questões como avaliações falsas e várias formas de abuso.

Sua equipe evoluiu para se tornar a primeira equipe de integridade de plataforma da empresa, aprimorando o lado operacional da confiança e segurança. Esse trabalho ganhou reconhecimento na indústria, levando a Trustpilot a se tornar um membro fundador da Coalition of Trusted Reviews ao lado de grandes players como Amazon, TripAdvisor, Glassdoor, Booking.com e Expedia. O passado de Joshi como advogado e engenheiro de software o posiciona de maneira única para navegar na interseção entre direito e tecnologia, crucial para construir e manter a confiança na plataforma.

Definindo o papel de um Diretor de Confiança

De acordo com Joshi, o papel de um Diretor de Confiança na Trustpilot é garantir que a empresa esteja à altura de sua visão de ser o símbolo universal de confiança. Isso envolve definir o que confiança significa para a Trustpilot, o que inclui a integridade das avaliações, o conteúdo no site e como a empresa trata tanto consumidores quanto empresas. Além disso, o papel impulsiona a governança e os processos que mitigam riscos, garantem conformidade e, em última análise, promovem confiança e lealdade entre partes interessadas, como consumidores, funcionários, empresas, investidores, legisladores e jornalistas. À medida que a tecnologia se torna mais presente e o engajamento online cresce, a necessidade de tais papéis na alta administração deve aumentar.

Tipos comuns de avaliações falsas na Trustpilot

A Trustpilot categoriza as avaliações falsas como aquelas não baseadas em experiências genuínas ou destinadas a enganar os leitores. Os tipos mais comuns que eles encontram e removem incluem:

• Avaliações de Spam: Avaliações que servem como anúncios ou promovem outras empresas.
• Conflitos de Interesse: Avaliações deixadas por proprietários de empresas ou funcionários sobre seus próprios negócios.
• Avaliações Enganosas: Avaliações enviadas por indivíduos que não experimentaram realmente a empresa.
• Avaliações Baseadas em Incentivos: Avaliações influenciadas por incentivos, frequentemente com conteúdo enganoso.

Impacto do conteúdo gerado por IA na autenticidade das avaliações

O aumento da IA generativa facilitou a criação de conteúdo por indivíduos, reduzindo as barreiras para gerar avaliações falsas. A abordagem da Trustpilot para detectar essas avaliações foca nos comportamentos, não apenas no conteúdo em si. Seus sistemas automatizados analisam como as avaliações são enviadas, procurando padrões e marcadores suspeitos, enquanto também consideram a relação entre o avaliador e a empresa. Apesar do surgimento de tecnologias como o ChatGPT, o último Relatório de Transparência da Trustpilot indica uma taxa de detecção de avaliações falsas consistente ano após ano, sugerindo que seus sistemas estão resistindo bem a esse desafio.

Como a Trustpilot detecta avaliações falsas usando IA e Machine Learning

Cada avaliação enviada à Trustpilot passa por uma análise por motores de detecção de avaliações falsas automatizados. Esses motores consideram várias facetas da avaliação, como o comportamento anterior do avaliador e quaisquer declarações promocionais. Alguns padrões podem levar tempo para emergir antes que uma ação seja tomada. Além disso, a Trustpilot conta com sua comunidade de consumidores e empresas para sinalizar avaliações suspeitas, que são então revisadas por moderadores humanos na equipe de integridade de conteúdo. Se uma avaliação é removida, o avaliador é notificado e tem a chance de apelar da decisão. Essa combinação de detecção automatizada e supervisão humana ajuda a melhorar continuamente a abordagem da Trustpilot para identificar e remover avaliações falsas.

Desafios em distinguir avaliações genuínas e falsas

Um dos principais desafios que a Trustpilot enfrenta é que alguns padrões de comportamento não são imediatamente óbvios e requerem tempo para se desenvolver e serem compreendidos. Isso torna a distinção entre avaliações genuínas e falsas um desafio contínuo.

Gerenciando avaliações genuínas assistidas por IA

A Trustpilot avalia se os avaliadores tiveram uma experiência genuína com uma empresa e se essa experiência é refletida com precisão em sua avaliação. Fatores como conteúdo copiado de outras fontes, incluindo texto gerado por IA, são considerados ao determinar se uma avaliação é suspeita. Se um alto grau de suspeita for encontrado, a avaliação é removida, e o avaliador é informado e tem a oportunidade de contestar a decisão. A Trustpilot busca equilibrar, reconhecendo que ferramentas de IA podem ajudar os avaliadores a expressar experiências genuínas, especialmente para aqueles com necessidades de acessibilidade ou neurodiversidade.

Equilibrando detecção automatizada com supervisão humana

A Trustpilot garante que humanos estejam envolvidos no design e implementação de seu software de automação. Embora a automação seja crucial para escalar operações, os problemas que a Trustpilot resolve são fundamentalmente humanos, e esses desafios evoluem com o tempo. Portanto, a automação deve se adaptar com base em insights obtidos do comportamento humano.

Mudanças nas taxas de detecção de avaliações falsas ao longo do tempo

Apesar de um aumento ano após ano no total de avaliações, de 46 milhões no ano fiscal de 2022 para 54 milhões no ano fiscal de 2023, a proporção de avaliações falsas removidas permaneceu consistente em 6%. Em 2023, os sistemas da Trustpilot detectaram e removeram 79% das avaliações falsas, demonstrando a eficácia de seu investimento contínuo em tecnologia. Embora a IA e o aprendizado de máquina continuem a evoluir, o foco da Trustpilot em padrões comportamentais e relatórios da comunidade ajuda a manter um sistema de detecção robusto.

Efeitos de longo prazo das avaliações falsas na confiança e reputação

Avaliações falsas podem impactar significativamente as decisões dos consumidores, levando a experiências negativas e perda de confiança em plataformas online. Se as plataformas não conseguirem abordar as avaliações falsas de maneira eficaz, os consumidores podem perder a fé nas plataformas que usam para tomar decisões de compra, afetando tanto a confiança do consumidor quanto a reputação das empresas.

Considerações éticas no uso de IA para moderação de avaliações

A transparência está no cerne da abordagem ética da Trustpilot para o uso de IA na moderação de avaliações. A empresa é aberta sobre seu uso de IA para tomada de decisão automatizada, alinhando-se com seu compromisso de promover confiança entre consumidores e empresas.

Educando os consumidores sobre a identificação de avaliações reais

A Trustpilot usa Sinais de Confiança para destacar avaliações verificadas e permite que os avaliadores se verifiquem, garantindo que os consumidores possam distinguir entre diferentes tipos de avaliações. Além disso, quando ações de aplicação são tomadas contra empresas por uso indevido da plataforma, a Trustpilot exibe Alertas ao Consumidor para ajudar os consumidores a fazer escolhas informadas.

Futuro da IA no combate a avaliações falsas

O futuro oferece um potencial significativo para o uso de IA no combate a avaliações falsas, particularmente com a capacidade da IA generativa de prever padrões. Os extensos dados e a experiência da Trustpilot desde 2007 a posicionam bem para desenvolver melhores modelos de detecção de falsificações. Além disso, a IA pode aumentar a transparência e orientar os usuários online, mas com maior sofisticação vem maior responsabilidade.

Desenvolvimentos futuros em avaliações online

À medida que a distinção entre conteúdo gerado por humanos e por IA aumenta, o valor do conteúdo genuíno baseado em experiências aumentará. Plataformas como a Trustpilot, que investem em tecnologia, pessoas, comunidade e processos para destacar vozes autênticas, se tornarão cada vez mais valiosas para consumidores e empresas.

Gostaríamos de expressar nossa gratidão a Anoop Joshi por esta entrevista esclarecedora. Suas perspectivas oferecem insights valiosos sobre como navegar no complexo mundo das avaliações online. O que você achou? Esses insights ajudaram você a entender melhor como filtrar avaliações online? Compartilhe seus pensamentos nos comentários abaixo.

Mantenha-se atualizado com minhas atualizações diárias de projetos nas redes sociais. Não se esqueça de assinar minha newsletter semanal e me seguir no Twitter/X em @DavidGewirtz, no Facebook em Facebook.com/DavidGewirtz, no Instagram em Instagram.com/DavidGewirtz e no YouTube em YouTube.com/DavidGewirtzTV.