Fake reviews are a big problem -- and here's how AI could help fix it
Desde a sua criação em 2007, o Trustpilot se tornou uma plataforma para análises de usuários, acumulando 238 milhões de críticas em quase um milhão de empresas e abrangendo 50 nacionalidades. Embora o Trustpilot apresente críticas dos negócios dos EUA, descobri que as lojas locais que eu procurei não estavam listadas e tive mais sucesso com o Yelp. Parece que o Trustpilot tem uma posição mais forte na Europa, mas para nossa discussão aqui, o foco geográfico não é nossa principal preocupação. Em vez disso, estamos mergulhando em uma questão crítica que atormenta sites de revisão: a proliferação de críticas falsas.
Em 2023, o Trustpilot conseguiu identificar e remover 3,3 milhões de críticas falsas, após a remoção de 2,6 milhões no ano anterior. Essa batalha em andamento contra críticas falsas é ainda mais desafiadora com a ascensão da IA generativa. De acordo com pesquisas publicadas no processo da Academia Nacional de Ciências dos Estados Unidos da América (PNAs), apenas cerca de metade dos consumidores pode diferenciar o texto gerado pela IA e o conteúdo escrito por humanos. Isso cria um obstáculo significativo para consumidores e plataformas como o TrustPilot, que têm a tarefa de filtrar críticas falsas para garantir a autenticidade das opiniões do consumidor.
O Trustpilot tornou a missão essencial para enfrentar esse problema de frente. Em uma conversa perspicaz com Anoop Joshi, diretor de confiança da Trustpilot, investigamos como a empresa está lutando contra críticas falsas geradas por IA.
A jornada de Anoop Joshi ao Diretor de Confiança do Trustpilot
Anoop Joshi, que está no Trustpilot há mais de quatro anos, lidera as operações de confiança e segurança e privacidade da empresa com uma equipe de cerca de 80 anos. Seu papel abrange um amplo espectro de atividades, incluindo litígios, assuntos públicos, comunicações globais, contratação comercial, moderação, proteção da marca e investigações de fraude. Inicialmente, Joshi foi responsável pelo trabalho relacionado à execução, abordando o uso indevido na plataforma Trustpilot por empresas ou consumidores e abordando questões como críticas falsas e várias formas de abuso.
Sua equipe evoluiu para a primeira equipe de integridade da plataforma da empresa, aprimorando o lado operacional da confiança e da segurança. Este trabalho ganhou reconhecimento do setor, levando o Trustpilot a se tornar um membro fundador da Coalizão de Revisões Confiáveis, juntamente com grandes players como Amazon, TripAdvisor, Glassdoor, Booking.com e Expedia. O histórico de Joshi como advogado e engenheiro de software o posiciona exclusivamente para navegar na interseção da lei e da tecnologia, crucial para construir e manter a confiança na plataforma.
Definindo o papel de um diretor de confiança
Segundo Joshi, o papel de um diretor de confiança da Trustpilot é garantir que a empresa cumpra sua visão de ser o símbolo universal de confiança. Isso envolve definir o que a confiança significa para o TrustPilot, que inclui a integridade das revisões, o conteúdo do site e como a empresa trata consumidores e empresas. Além disso, o papel impulsiona a governança e os processos que mitigam o risco, garantem conformidade e, finalmente, promovem a confiança e a lealdade entre partes interessadas, como consumidores, funcionários, empresas, investidores, formuladores de políticas e jornalistas. À medida que a tecnologia se torna mais difundida e o engajamento on-line aumenta, espera-se que a necessidade de tais funções no C-suite aumente.
Tipos comuns de críticas falsas no Trustpilot
O Trustpilot categoriza críticas falsas como aquelas que não são baseadas em experiências genuínas ou naquelas destinadas a enganar os leitores. Os tipos mais comuns que eles encontram e removem incluem:
- Revisões de spam: revisões que servem como anúncios ou promovem outras empresas.
- Conflitos de interesse: revisões deixadas por empresários ou funcionários sobre seus próprios negócios.
- Revisões enganosas: revisões enviadas por indivíduos que realmente não experimentaram o negócio.
- Revisões baseadas em incentivos: revisões influenciadas por incentivos, geralmente com conteúdo enganoso.
Impacto do conteúdo gerado pela IA na autenticidade da revisão
A ascensão da IA generativa facilitou a criação de conteúdo para os indivíduos, diminuindo as barreiras para gerar críticas falsas. A abordagem do Trustpilot para detectar essas revisões se concentra em comportamentos, e não apenas no próprio conteúdo. Seus sistemas automatizados analisam como as revisões são enviadas, procurando padrões e marcadores suspeitos, considerando o relacionamento entre o revisor e os negócios. Apesar do advento de tecnologias como o ChatGPT, o mais recente relatório de transparência do Trustpilot indica uma taxa de detecção consistente ano a ano de críticas falsas, sugerindo que seus sistemas estão se mantendo bem contra esse desafio.
Como o Trustpilot detecta críticas falsas usando a IA e o aprendizado de máquina
Toda revisão enviada ao Trustpilot sofre análises por mecanismos de detecção de revisão falsos automatizados. Esses motores consideram várias facetas da revisão, como o comportamento anterior do revisor e quaisquer declarações promocionais. Alguns padrões podem levar tempo para surgir antes que as medidas sejam tomadas. Além disso, a Trustpilot depende de sua comunidade de consumidores e empresas para sinalizar críticas suspeitas, que são revisadas por moderadores humanos na equipe de integridade do conteúdo. Se uma revisão for removida, o revisor será notificado e tem a chance de recorrer da decisão. Essa combinação de detecção automatizada e supervisão humana ajuda a melhorar continuamente a abordagem do Trustpilot para identificar e remover críticas falsas.
Desafios em distinguir críticas genuínas e falsas
Um dos principais desafios do Trustpilot enfrenta é que alguns padrões de comportamento não são imediatamente óbvios e exigem tempo para se desenvolver e entender. Isso torna a distinção entre comentários genuínos e falsos um desafio contínuo.
Lidar com críticas genuínas assistidas pela IA
O TrustPilot avalia se os revisores tiveram uma experiência genuína com uma empresa e se essa experiência é refletida com precisão em sua revisão. Fatores como o conteúdo copiado de outras fontes, incluindo o texto gerado pela IA, são considerados ao determinar se uma revisão é suspeita. Se um alto grau de suspeita for encontrado, a revisão será removida e o revisor é informado e dada a oportunidade de desafiar a decisão. O TrustPilot pretende encontrar um equilíbrio, reconhecendo que as ferramentas de IA podem ajudar os revisores a enquadrar experiências genuínas, especialmente para aqueles com necessidades de acessibilidade ou neurodiversidade.
Equilibrando a detecção automatizada com a supervisão humana
O TrustPilot garante que os seres humanos estejam envolvidos na criação e implementação de seu software de automação. Embora a automação seja crucial para as operações de escala, os problemas resolvem os problemas de confiança são fundamentalmente humanos, e esses desafios evoluem ao longo do tempo. Portanto, a automação deve se adaptar com base nas idéias obtidas com o comportamento humano.
Mudanças nas taxas falsas de detecção de revisão ao longo do tempo
Apesar de um aumento ano a ano no total de revisões de 46 milhões no ano fiscal de 2022 para 54 milhões no ano fiscal de 2023, a proporção de críticas falsas removidas permaneceu consistente em 6%. Em 2023, os sistemas da Trustpilot detectaram e removeram 79% das críticas falsas, mostrando a eficácia de seu investimento contínuo em tecnologia. Enquanto a IA e o aprendizado de máquina continuam evoluindo, o foco do Trustpilot nos padrões comportamentais e nos relatórios da comunidade ajuda a manter um sistema de detecção robusto.
Efeitos de longo prazo de críticas falsas sobre confiança e reputação
Revisões falsas podem afetar significativamente as decisões do consumidor, levando a experiências negativas e uma perda de confiança nas plataformas on -line. Se as plataformas não abordarem críticas falsas de maneira eficaz, os consumidores podem perder a fé nas plataformas que usam para tomar decisões de compra, afetando a confiança do consumidor e a reputação dos negócios.
Considerações éticas no uso da IA para moderação de revisão
A transparência está no coração da abordagem ética do Trustpilot para usar a IA na moderação da revisão. A empresa está aberta sobre o uso da IA para a tomada de decisões automatizadas, alinhando-se com seu compromisso de promover a confiança entre consumidores e empresas.
Educar os consumidores sobre a identificação de críticas reais
O Trustpilot usa sinais de confiança para destacar críticas verificadas e permite que os revisores se verifiquem, garantindo que os consumidores possam distinguir entre diferentes tipos de revisões. Além disso, quando as ações de execução são tomadas contra empresas de uso indevido da plataforma, o Trustpilot exibe avisos de consumidores para ajudar os consumidores a fazer escolhas informadas.
Futuro da IA no combate a críticas falsas
O futuro possui um potencial significativo para o uso da IA para combater críticas falsas, particularmente com a capacidade generativa da IA de prever padrões. Dados e experiências extensos do Trustpilot desde 2007 Posicionem bem o desenvolvimento de melhores modelos de detecção falsa. Além disso, a IA pode aprimorar a transparência e orientar os usuários on -line, mas com maior sofisticação vem maior responsabilidade.
Desenvolvimentos futuros em análises on -line
À medida que a distinção entre o conteúdo gerado pelo ser humano e gerado pela IA aumenta, o valor do conteúdo genuíno e baseado em experiência aumentará. Plataformas como o TrustPilot, que investem em tecnologia, pessoas, comunidade e processos para destacar vozes autênticas, se tornarão cada vez mais valiosas para consumidores e empresas.
Gostaríamos de estender nossa gratidão a Anoop Joshi por esta entrevista perspicaz. Suas perspectivas oferecem informações valiosas sobre a navegação no complexo mundo das críticas on -line. O que são seus pensamentos? Esses insights o ajudaram a entender melhor como analisar as críticas on -line? Compartilhe seus pensamentos nos comentários abaixo.
Mantenha -se atualizado com minhas atualizações diárias do projeto nas mídias sociais. Não se esqueça de se inscrever na minha newsletter semanal e siga -me no Twitter/x em @davidgewirtz, no Facebook em facebook.com/davidgewirtz, no Instagram em Instagram.com/davidgewirtz e no YouTube em YouTube.com/davidgewirtztv.
Related article
AI Comic Factory: Easily Create Comics for Free Using AI
In today's digital world, the blend of artificial intelligence and creative arts is sparking fascinating new avenues for expression. AI Comic Factory stands at the forefront of this revolution, offering a platform where users can create comics with the help of AI. This article takes a closer look at
AI Trading Bots: Can You Really Earn a Month's Salary in a Day?
If you've ever dreamt of earning a month's salary in a single day, the world of AI trading bots might seem like the golden ticket. These automated systems promise to leverage artificial intelligence to trade on your behalf, potentially turning the volatile market into your personal ATM. But is this
LinkFi: Revolutionizing DeFi with AI and Machine Learning
In the ever-evolving world of decentralized finance (DeFi), staying ahead of the curve is crucial. Enter LinkFi, a project that's stirring the pot by weaving artificial intelligence (AI) and machine learning into the fabric of DeFi. Let's dive into what makes LinkFi tick, from its ambitious vision t
Comments (0)
0/200
Desde a sua criação em 2007, o Trustpilot se tornou uma plataforma para análises de usuários, acumulando 238 milhões de críticas em quase um milhão de empresas e abrangendo 50 nacionalidades. Embora o Trustpilot apresente críticas dos negócios dos EUA, descobri que as lojas locais que eu procurei não estavam listadas e tive mais sucesso com o Yelp. Parece que o Trustpilot tem uma posição mais forte na Europa, mas para nossa discussão aqui, o foco geográfico não é nossa principal preocupação. Em vez disso, estamos mergulhando em uma questão crítica que atormenta sites de revisão: a proliferação de críticas falsas.
Em 2023, o Trustpilot conseguiu identificar e remover 3,3 milhões de críticas falsas, após a remoção de 2,6 milhões no ano anterior. Essa batalha em andamento contra críticas falsas é ainda mais desafiadora com a ascensão da IA generativa. De acordo com pesquisas publicadas no processo da Academia Nacional de Ciências dos Estados Unidos da América (PNAs), apenas cerca de metade dos consumidores pode diferenciar o texto gerado pela IA e o conteúdo escrito por humanos. Isso cria um obstáculo significativo para consumidores e plataformas como o TrustPilot, que têm a tarefa de filtrar críticas falsas para garantir a autenticidade das opiniões do consumidor.
O Trustpilot tornou a missão essencial para enfrentar esse problema de frente. Em uma conversa perspicaz com Anoop Joshi, diretor de confiança da Trustpilot, investigamos como a empresa está lutando contra críticas falsas geradas por IA.
A jornada de Anoop Joshi ao Diretor de Confiança do Trustpilot
Anoop Joshi, que está no Trustpilot há mais de quatro anos, lidera as operações de confiança e segurança e privacidade da empresa com uma equipe de cerca de 80 anos. Seu papel abrange um amplo espectro de atividades, incluindo litígios, assuntos públicos, comunicações globais, contratação comercial, moderação, proteção da marca e investigações de fraude. Inicialmente, Joshi foi responsável pelo trabalho relacionado à execução, abordando o uso indevido na plataforma Trustpilot por empresas ou consumidores e abordando questões como críticas falsas e várias formas de abuso.
Sua equipe evoluiu para a primeira equipe de integridade da plataforma da empresa, aprimorando o lado operacional da confiança e da segurança. Este trabalho ganhou reconhecimento do setor, levando o Trustpilot a se tornar um membro fundador da Coalizão de Revisões Confiáveis, juntamente com grandes players como Amazon, TripAdvisor, Glassdoor, Booking.com e Expedia. O histórico de Joshi como advogado e engenheiro de software o posiciona exclusivamente para navegar na interseção da lei e da tecnologia, crucial para construir e manter a confiança na plataforma.
Definindo o papel de um diretor de confiança
Segundo Joshi, o papel de um diretor de confiança da Trustpilot é garantir que a empresa cumpra sua visão de ser o símbolo universal de confiança. Isso envolve definir o que a confiança significa para o TrustPilot, que inclui a integridade das revisões, o conteúdo do site e como a empresa trata consumidores e empresas. Além disso, o papel impulsiona a governança e os processos que mitigam o risco, garantem conformidade e, finalmente, promovem a confiança e a lealdade entre partes interessadas, como consumidores, funcionários, empresas, investidores, formuladores de políticas e jornalistas. À medida que a tecnologia se torna mais difundida e o engajamento on-line aumenta, espera-se que a necessidade de tais funções no C-suite aumente.
Tipos comuns de críticas falsas no Trustpilot
O Trustpilot categoriza críticas falsas como aquelas que não são baseadas em experiências genuínas ou naquelas destinadas a enganar os leitores. Os tipos mais comuns que eles encontram e removem incluem:
- Revisões de spam: revisões que servem como anúncios ou promovem outras empresas.
- Conflitos de interesse: revisões deixadas por empresários ou funcionários sobre seus próprios negócios.
- Revisões enganosas: revisões enviadas por indivíduos que realmente não experimentaram o negócio.
- Revisões baseadas em incentivos: revisões influenciadas por incentivos, geralmente com conteúdo enganoso.
Impacto do conteúdo gerado pela IA na autenticidade da revisão
A ascensão da IA generativa facilitou a criação de conteúdo para os indivíduos, diminuindo as barreiras para gerar críticas falsas. A abordagem do Trustpilot para detectar essas revisões se concentra em comportamentos, e não apenas no próprio conteúdo. Seus sistemas automatizados analisam como as revisões são enviadas, procurando padrões e marcadores suspeitos, considerando o relacionamento entre o revisor e os negócios. Apesar do advento de tecnologias como o ChatGPT, o mais recente relatório de transparência do Trustpilot indica uma taxa de detecção consistente ano a ano de críticas falsas, sugerindo que seus sistemas estão se mantendo bem contra esse desafio.
Como o Trustpilot detecta críticas falsas usando a IA e o aprendizado de máquina
Toda revisão enviada ao Trustpilot sofre análises por mecanismos de detecção de revisão falsos automatizados. Esses motores consideram várias facetas da revisão, como o comportamento anterior do revisor e quaisquer declarações promocionais. Alguns padrões podem levar tempo para surgir antes que as medidas sejam tomadas. Além disso, a Trustpilot depende de sua comunidade de consumidores e empresas para sinalizar críticas suspeitas, que são revisadas por moderadores humanos na equipe de integridade do conteúdo. Se uma revisão for removida, o revisor será notificado e tem a chance de recorrer da decisão. Essa combinação de detecção automatizada e supervisão humana ajuda a melhorar continuamente a abordagem do Trustpilot para identificar e remover críticas falsas.
Desafios em distinguir críticas genuínas e falsas
Um dos principais desafios do Trustpilot enfrenta é que alguns padrões de comportamento não são imediatamente óbvios e exigem tempo para se desenvolver e entender. Isso torna a distinção entre comentários genuínos e falsos um desafio contínuo.
Lidar com críticas genuínas assistidas pela IA
O TrustPilot avalia se os revisores tiveram uma experiência genuína com uma empresa e se essa experiência é refletida com precisão em sua revisão. Fatores como o conteúdo copiado de outras fontes, incluindo o texto gerado pela IA, são considerados ao determinar se uma revisão é suspeita. Se um alto grau de suspeita for encontrado, a revisão será removida e o revisor é informado e dada a oportunidade de desafiar a decisão. O TrustPilot pretende encontrar um equilíbrio, reconhecendo que as ferramentas de IA podem ajudar os revisores a enquadrar experiências genuínas, especialmente para aqueles com necessidades de acessibilidade ou neurodiversidade.
Equilibrando a detecção automatizada com a supervisão humana
O TrustPilot garante que os seres humanos estejam envolvidos na criação e implementação de seu software de automação. Embora a automação seja crucial para as operações de escala, os problemas resolvem os problemas de confiança são fundamentalmente humanos, e esses desafios evoluem ao longo do tempo. Portanto, a automação deve se adaptar com base nas idéias obtidas com o comportamento humano.
Mudanças nas taxas falsas de detecção de revisão ao longo do tempo
Apesar de um aumento ano a ano no total de revisões de 46 milhões no ano fiscal de 2022 para 54 milhões no ano fiscal de 2023, a proporção de críticas falsas removidas permaneceu consistente em 6%. Em 2023, os sistemas da Trustpilot detectaram e removeram 79% das críticas falsas, mostrando a eficácia de seu investimento contínuo em tecnologia. Enquanto a IA e o aprendizado de máquina continuam evoluindo, o foco do Trustpilot nos padrões comportamentais e nos relatórios da comunidade ajuda a manter um sistema de detecção robusto.
Efeitos de longo prazo de críticas falsas sobre confiança e reputação
Revisões falsas podem afetar significativamente as decisões do consumidor, levando a experiências negativas e uma perda de confiança nas plataformas on -line. Se as plataformas não abordarem críticas falsas de maneira eficaz, os consumidores podem perder a fé nas plataformas que usam para tomar decisões de compra, afetando a confiança do consumidor e a reputação dos negócios.
Considerações éticas no uso da IA para moderação de revisão
A transparência está no coração da abordagem ética do Trustpilot para usar a IA na moderação da revisão. A empresa está aberta sobre o uso da IA para a tomada de decisões automatizadas, alinhando-se com seu compromisso de promover a confiança entre consumidores e empresas.
Educar os consumidores sobre a identificação de críticas reais
O Trustpilot usa sinais de confiança para destacar críticas verificadas e permite que os revisores se verifiquem, garantindo que os consumidores possam distinguir entre diferentes tipos de revisões. Além disso, quando as ações de execução são tomadas contra empresas de uso indevido da plataforma, o Trustpilot exibe avisos de consumidores para ajudar os consumidores a fazer escolhas informadas.
Futuro da IA no combate a críticas falsas
O futuro possui um potencial significativo para o uso da IA para combater críticas falsas, particularmente com a capacidade generativa da IA de prever padrões. Dados e experiências extensos do Trustpilot desde 2007 Posicionem bem o desenvolvimento de melhores modelos de detecção falsa. Além disso, a IA pode aprimorar a transparência e orientar os usuários on -line, mas com maior sofisticação vem maior responsabilidade.
Desenvolvimentos futuros em análises on -line
À medida que a distinção entre o conteúdo gerado pelo ser humano e gerado pela IA aumenta, o valor do conteúdo genuíno e baseado em experiência aumentará. Plataformas como o TrustPilot, que investem em tecnologia, pessoas, comunidade e processos para destacar vozes autênticas, se tornarão cada vez mais valiosas para consumidores e empresas.
Gostaríamos de estender nossa gratidão a Anoop Joshi por esta entrevista perspicaz. Suas perspectivas oferecem informações valiosas sobre a navegação no complexo mundo das críticas on -line. O que são seus pensamentos? Esses insights o ajudaram a entender melhor como analisar as críticas on -line? Compartilhe seus pensamentos nos comentários abaixo.
Mantenha -se atualizado com minhas atualizações diárias do projeto nas mídias sociais. Não se esqueça de se inscrever na minha newsletter semanal e siga -me no Twitter/x em @davidgewirtz, no Facebook em facebook.com/davidgewirtz, no Instagram em Instagram.com/davidgewirtz e no YouTube em YouTube.com/davidgewirtztv.
AI Comic Factory: Easily Create Comics for Free Using AI
In today's digital world, the blend of artificial intelligence and creative arts is sparking fascinating new avenues for expression. AI Comic Factory stands at the forefront of this revolution, offering a platform where users can create comics with the help of AI. This article takes a closer look at
AI Trading Bots: Can You Really Earn a Month's Salary in a Day?
If you've ever dreamt of earning a month's salary in a single day, the world of AI trading bots might seem like the golden ticket. These automated systems promise to leverage artificial intelligence to trade on your behalf, potentially turning the volatile market into your personal ATM. But is this
LinkFi: Revolutionizing DeFi with AI and Machine Learning
In the ever-evolving world of decentralized finance (DeFi), staying ahead of the curve is crucial. Enter LinkFi, a project that's stirring the pot by weaving artificial intelligence (AI) and machine learning into the fabric of DeFi. Let's dive into what makes LinkFi tick, from its ambitious vision t
