Фальшивые отзывы - большая проблема - и вот как ИИ может помочь исправить это

С момента основания в 2007 году Trustpilot стал ведущей платформой для пользовательских отзывов, собрав впечатляющие 238 миллионов отзывов о почти миллионе компаний, охватывающих 50 национальностей. Хотя Trustpilot включает отзывы о компаниях США, местные магазины, которые я искал, отсутствовали, и мне больше повезло с Yelp. Похоже, Trustpilot имеет более прочные позиции в Европе, но для нашего обсуждения географический фокус не является главным. Вместо этого мы углубляемся в критическую проблему, характерную для сайтов отзывов: распространение фальшивых отзывов.

В 2023 году Trustpilot выявил и удалил 3,3 миллиона фальшивых отзывов после удаления 2,6 миллиона в предыдущем году. Эта постоянная борьба с фальшивыми отзывами усложняется ростом генеративного AI. Согласно исследованию, опубликованному в Proceedings of the National Academy of Sciences of the United States of America (PNAS), только около половины потребителей могут отличить текст, сгенерированный AI, от написанного человеком. Это создает значительное препятствие для потребителей и платформ, таких как Trustpilot, которым поручено фильтровать фальшивые отзывы, чтобы обеспечить подлинность мнений потребителей.

Trustpilot сделал своей ключевой миссией борьбу с этой проблемой. В содержательной беседе с Анупом Джоши, главным директором по доверию Trustpilot, мы углубились в то, как компания противостоит фальшивым отзывам, сгенерированным AI.

Путь Анупа Джоши к должности главного директора по доверию Trustpilot

Ануп Джоши, работающий в Trustpilot более четырех лет, возглавляет операции компании по доверию и безопасности, а также юридические и конфиденциальные вопросы с командой около 80 человек. Его роль охватывает широкий спектр деятельности, включая судебные разбирательства, общественные связи, глобальные коммуникации, коммерческие контракты, модерацию контента, защиту бренда и расследования мошенничества. Изначально Джоши отвечал за работу, связанную с принуждением, борясь с неправильным использованием платформы Trustpilot компаниями или потребителями и решая проблемы, такие как фальшивые отзывы и различные формы злоупотреблений.

Его команда превратилась в первую команду целостности платформы компании, усиливая операционную сторону доверия и безопасности. Эта работа получила признание в отрасли, что привело к тому, что Trustpilot стал одним из основателей Коалиции доверенных отзывов вместе с крупными игроками, такими как Amazon, TripAdvisor, Glassdoor, Booking.com и Expedia. Образование Джоши как юриста и инженера-программиста уникально позиционирует его для навигации на пересечении права и технологий, что крайне важно для построения и поддержания доверия на платформе.

Определение роли главного директора по доверию

По словам Джоши, роль главного директора по доверию в Trustpilot заключается в том, чтобы компания соответствовала своему видению быть универсальным символом доверия. Это включает определение того, что означает доверие для Trustpilot, включая целостность отзывов, контент на сайте и то, как компания относится к потребителям и бизнесам. Кроме того, роль направлена на управление процессами, которые снижают риски, обеспечивают соблюдение требований и в конечном итоге способствуют доверию и лояльности среди заинтересованных сторон, таких как потребители, сотрудники, компании, инвесторы, политики и журналисты. По мере того как технологии становятся все более распространенными и онлайн-взаимодействие растет, ожидается, что потребность в таких ролях в высшем руководстве будет увеличиваться.

Распространенные типы фальшивых отзывов на Trustpilot

Trustpilot классифицирует фальшивые отзывы как те, которые не основаны на подлинном опыте или предназначены для введения в заблуждение читателей. Наиболее распространенные типы, которые они выявляют и удаляют, включают:

• Спам-отзывы: Отзывы, которые служат рекламой или продвигают другие компании.
• Конфликт интересов: Отзывы, оставленные владельцами бизнеса или сотрудниками о своем собственном бизнесе.
• Мислидинг-отзывы: Отзывы, поданные лицами, которые на самом деле не имели опыта взаимодействия с бизнесом.
• Отзывы, основанные на стимулах: Отзывы, под влиянием стимулов, часто с вводящим в заблуждение содержанием.

Влияние контента, сгенерированного AI, на подлинность отзывов

Рост генеративного AI упростил создание контента, снижая барьеры для генерации фальшивых отзывов. Подход Trustpilot к выявлению таких отзывов сосредоточен на поведении, а не только на содержимом. Их автоматизированные системы анализируют, как подаются отзывы, ищут шаблоны и подозрительные маркеры, а также учитывают отношения между рецензентом и бизнесом. Несмотря на появление технологий, таких как ChatGPT, последний отчет о прозрачности Trustpilot указывает на стабильный годовой уровень выявления фальшивых отзывов, что свидетельствует о том, что их системы успешно справляются с этой проблемой.

Как Trustpilot выявляет фальшивые отзывы с помощью AI и машинного обучения

Каждый отзыв, поданный на Trustpilot, анализируется автоматизированными движками обнаружения фальшивых отзывов. Эти движки учитывают различные аспекты отзыва, такие как предыдущее поведение рецензента и любые рекламные заявления. Некоторые шаблоны могут проявляться со временем, прежде чем будут предприняты действия. Кроме того, Trustpilot полагается на сообщество потребителей и компаний, чтобы отмечать подозрительные отзывы, которые затем проверяются модераторами из команды целостности контента. Если отзыв удаляется, рецензент уведомляется и получает возможность обжаловать решение. Это сочетание автоматизированного обнаружения и человеческого контроля помогает постоянно улучшать подход Trustpilot к выявлению и удалению фальшивых отзывов.

Проблемы в различении подлинных и фальшивых отзывов

Одной из главных проблем, с которыми сталкивается Trustpilot, является то, что некоторые шаблоны поведения не сразу очевидны и требуют времени для развития и понимания. Это делает различение подлинных и фальшивых отзывов постоянной задачей.

Обработка подлинных отзывов с помощью AI

Trustpilot оценивает, имел ли рецензент подлинный опыт взаимодействия с бизнесом и точно ли этот опыт отражен в отзыве. Такие факторы, как контент, скопированный из других источников, включая текст, сгенерированный AI, учитываются при определении подозрительности отзыва. Если обнаруживается высокая степень подозрительности, отзыв удаляется, и рецензенту сообщают об этом и предоставляют возможность оспорить решение. Trustpilot стремится найти баланс, признавая, что инструменты AI могут помогать рецензентам в оформлении подлинного опыта, особенно для тех, у кого есть потребности в доступности или нейроразнообразии.

Баланс между автоматизированным обнаружением и человеческим контролем

Trustpilot обеспечивает участие людей в разработке и внедрении программного обеспечения для автоматизации. Хотя автоматизация важна для масштабирования операций, решаемые Trustpilot проблемы в основе своей человеческие, и эти вызовы со временем эволюционируют. Поэтому автоматизация должна адаптироваться на основе понимания человеческого поведения.

Изменения в уровне обнаружения фальшивых отзывов со временем

Несмотря на годовой рост общего числа отзывов с 46 миллионов в 2022 финансовом году до 54 миллионов в 2023 финансовом году, доля удаленных фальшивых отзывов осталась стабильной на уровне 6%. В 2023 году системы Trustpilot выявили и удалили 79% фальшивых отзывов, демонстрируя эффективность их постоянных инвестиций в технологии. Хотя AI и машинное обучение продолжают развиваться, фокус Trustpilot на поведенческих шаблонах и сообщениях сообщества помогает поддерживать надежную систему обнаружения.

Долгосрочные эффекты фальшивых отзывов на доверие и репутацию

Фальшивые отзывы могут существенно влиять на решения потребителей, приводя к негативному опыту и потере доверия к онлайн-платформам. Если платформы не справляются с фальшивыми отзывами эффективно, потребители могут утратить веру в платформы, которые они используют для принятия решений о покупках, что влияет как на доверие потребителей, так и на репутацию бизнеса.

Этические аспекты использования AI в модерации отзывов

Прозрачность лежит в основе этического подхода Trustpilot к использованию AI в модерации отзывов. Компания открыто заявляет о своем использовании AI для автоматизированного принятия решений, что соответствует ее приверженности укреплению доверия между потребителями и бизнесами.

Обучение потребителей распознаванию настоящих отзывов

Trustpilot использует сигналы доверия для выделения проверенных отзывов и позволяет рецензентам верифицировать себя, обеспечивая возможность потребителям различать разные типы отзывов. Кроме того, когда принимаются меры против компаний за неправильное использование платформы, Trustpilot отображает предупреждения для потребителей, чтобы помочь им делать осознанный выбор.

Будущее AI в борьбе с фальшивыми отзывами

Будущее открывает значительные возможности для использования AI в борьбе с фальшивыми отзывами, особенно благодаря способности генеративного AI предсказывать шаблоны. Обширные данные и опыт Trustpilot с 2007 года хорошо позиционируют компанию для разработки лучших моделей обнаружения фальшивок. Более того, AI может повысить прозрачность и направлять пользователей в Интернете, но с увеличением сложности возрастает и ответственность.

Будущие разработки в области онлайн-отзывов

По мере роста различий между контентом, созданным человеком, и сгенерированным AI, ценность подлинного контента, основанного на опыте, будет увеличиваться. Платформы, такие как Trustpilot, которые инвестируют в технологии, людей, сообщество и процессы для выделения подлинных голосов, станут все более ценными как для потребителей, так и для бизнеса.

Мы хотели бы выразить благодарность Анупу Джоши за это содержательное интервью. Его взгляды дают ценные представления о навигации в сложном мире онлайн-отзывов. Каковы ваши мысли? Помогли ли эти идеи лучше понять, как разбираться в онлайн-отзывах? Поделитесь своими мыслями в комментариях ниже.

Следите за моими ежедневными обновлениями проектов в социальных сетях. Не забудьте подписаться на мою еженедельную рассылку и следить за мной на Twitter/X по адресу @DavidGewirtz, на Facebook по адресу Facebook.com/DavidGewirtz, на Instagram по адресу Instagram.com/DavidGewirtz и на YouTube по адресу YouTube.com/DavidGewirtzTV.