偽のレビューは大きな問題です - そしてこれがAIがそれを修正するのに役立つ方法です

2007年の設立以来、Trustpilotはユーザー評価の主要なプラットフォームとなり、50カ国にわたる約100万の企業に対して驚異的な2億3800万件のレビューを集めています。Trustpilotには米国の企業のレビューも掲載されていますが、私が検索した地元の店舗は掲載されておらず、Yelpでの検索の方が成果を上げました。Trustpilotはヨーロッパでの基盤が強いようですが、ここでの議論では地理的な焦点は主な関心事ではありません。代わりに、レビューサイトを悩ませる重大な問題、つまり偽レビューの急増に焦点を当てます。

2023年、Trustpilotは330万件の偽レビューを特定し削除しました。これは前年の260万件の削除に続くものです。生成AIの台頭により、偽レビューとのこの継続的な戦いはさらに難しくなっています。米国科学アカデミー紀要（PNAS）に掲載された研究によると、消費者の約半数しかAI生成のテキストと人間が書いたコンテンツを区別できません。これは、消費者とTrustpilotのようなプラットフォームにとって、消費者意見の信頼性を確保するために偽レビューを排除する大きな障害となります。

Trustpilotはこの問題に正面から取り組むことをコアミッションとしています。TrustpilotのChief Trust OfficerであるAnoop Joshiとの洞察に満ちた会話で、同社がAI生成の偽レビューに対抗する方法について深く掘り下げました。

Anoop JoshiのTrustpilotのChief Trust Officerへの道のり

Trustpilotに4年以上在籍するAnoop Joshiは、約80人のチームを率いて、Trust and SafetyおよびLegal and Privacy業務を統括しています。彼の役割は、訴訟、公共事務、グローバルコミュニケーション、商業契約、コンテンツモデレーション、ブランド保護、詐欺調査など幅広い活動をカバーしています。当初、Joshiは企業や消費者によるTrustpilotプラットフォームの不正利用への対応や、偽レビューやさまざまな形態の悪用への対処といった執行関連の業務を担当していました。

彼のチームは、会社の初のプラットフォームインテグリティチームに進化し、信頼と安全の運用面を強化しました。この取り組みは業界で認められ、TrustpilotはAmazon、TripAdvisor、Glassdoor、Booking.com、Expediaなどの主要企業とともにCoalition of Trusted Reviewsの創設メンバーとなりました。弁護士とソフトウェアエンジニアの両方の経歴を持つJoshiは、プラットフォームの信頼を構築し維持するために不可欠な法律と技術の交差点をナビゲートする独自の立場にあります。

Chief Trust Officerの役割の定義

Joshiによると、TrustpilotのChief Trust Officerの役割は、会社が信頼の普遍的シンボルであるというビジョンを実現することです。これには、レビューの信頼性、ウェブサイトのコンテンツ、企業が消費者と企業をどのように扱うかを定義することが含まれます。さらに、この役割はリスク軽減、コンプライアンス確保、消費者、従業員、企業、投資家、政策立案者、ジャーナリストなどのステークホルダー間の信頼と忠誠を育むガバナンスとプロセスを推進します。技術が普及し、オンラインエンゲージメントが増えるにつれて、C-suiteにおけるこのような役割の必要性は増すと予想されます。

Trustpilotにおける偽レビューの一般的なタイプ

Trustpilotは、実際の体験に基づいていない、または読者を誤解させる意図のレビューを偽レビューとして分類します。彼らが遭遇し削除する最も一般的なタイプには以下が含まれます：

• スパムレビュー：広告として機能したり、他の企業を宣伝するレビュー。
• 利益相反：事業主や従業員が自分のビジネスについて残したレビュー。
• 誤解を招くレビュー：実際にビジネスを体験していない個人によるレビュー。
• インセンティブベースのレビュー：インセンティブに影響された、しばしば誤解を招く内容のレビュー。

AI生成コンテンツがレビューの信頼性に与える影響

生成AIの台頭により、個人がコンテンツを作成しやすくなり、偽レビュー生成の障壁が下がりました。Trustpilotのこれらのレビュー検出アプローチは、コンテンツ自体だけでなく、行動に焦点を当てています。彼らの自動システムは、レビューの提出方法を分析し、パターンや疑わしいマーカーを探し、レビューアとビジネスの関係も考慮します。ChatGPTのような技術の登場にもかかわらず、Trustpilotの最新の透明性レポートは、偽レビューの検出率が年々一貫していることを示しており、彼らのシステムがこの課題に対してうまく機能していることを示唆しています。

TrustpilotがAIと機械学習を使用して偽レビューを検出する方法

Trustpilotに提出されたすべてのレビューは、自動偽レビュー検出エンジンによる分析を受けます。これらのエンジンは、レビューアの過去の行動や宣伝的な記述など、レビューのさまざまな側面を考慮します。一部のパターンは、アクションが取られるまで時間がかかる場合があります。さらに、Trustpilotは消費者と企業のコミュニティに疑わしいレビューを報告してもらい、コンテンツインテグリティチームの人間のモデレーターがレビューします。レビューが削除された場合、レビューアには通知され、決定に異議を唱える機会が与えられます。自動検出と人間の監視の組み合わせにより、Trustpilotの偽レビュー特定と削除のアプローチは継続的に改善されています。

本物のレビューと偽レビューを見分ける課題

Trustpilotが直面する主な課題の1つは、一部の行動パターンがすぐに明らかでなく、理解するのに時間がかかることです。これにより、本物のレビューと偽レビューを区別することが継続的な課題となっています。

AI支援の本物のレビューへの対応

Trustpilotは、レビューアがビジネスで本物の体験をし、その体験がレビューに正確に反映されているかを評価します。他のソースからのコピーコンテンツやAI生成テキストを含む要因は、レビューが疑わしいかどうかを判断する際に考慮されます。高い疑いが発見された場合、レビューは削除され、レビューアには通知され、決定に異議を唱える機会が与えられます。Trustpilotは、アクセシビリティや神経多様性のニーズを持つ人々が本物の体験を表現するのをAIツールが支援できることを認識し、バランスを取ることを目指しています。

自動検出と人間の監視のバランス

Trustpilotは、自動化ソフトウェアの設計と実装に人間が関与することを保証します。自動化は運用スケーリングに不可欠ですが、Trustpilotが解決する問題は本質的に人間的であり、これらの課題は時間とともに進化します。したがって、自動化は人間の行動から得られる洞察に基づいて適応する必要があります。

偽レビュー検出率の経時変化

2022年度の4600万件から2023年度の5400万件へと総レビュー数が増加したにもかかわらず、削除された偽レビューの割合は6％で一貫していました。2023年、Trustpilotのシステムは偽レビューの79％を検出し削除し、技術への継続的な投資の効果を示しています。AIと機械学習が進化し続ける中、Trustpilotの行動パターンとコミュニティ報告への焦点は、堅牢な検出システムの維持に役立っています。

偽レビューが信頼と評判に与える長期的な影響

偽レビューは消費者の決定に大きな影響を与え、否定的な体験やオンラインプラットフォームへの信頼の喪失につながります。プラットフォームが偽レビューに効果的に対処できない場合、消費者は購入決定に使用するプラットフォームへの信頼を失い、消費者の信頼と企業の評判の両方に影響を与えます。

レビュー管理におけるAI使用の倫理的考慮

透明性は、Trustpilotのレビュー管理におけるAI使用の倫理的アプローチの中心にあります。同社は、消費者と企業間の信頼を育むというコミットメントに沿って、自動意思決定のためのAI使用についてオープンです。

本物のレビューを特定する方法について消費者を教育する

Trustpilotは、検証済みのレビューを強調するためにTrust Signalsを使用し、レビューアが自身を検証できるようにすることで、消費者が異なるタイプのレビューを区別できるようにします。さらに、プラットフォームの不正利用に対して企業に執行措置が取られた場合、Trustpilotは消費者警告を表示して、消費者が情報に基づいた選択を行えるようにします。

偽レビュー対策におけるAIの未来

生成AIのパターン予測能力により、偽レビュー対策にAIを使用する可能性は大きいです。2007年以来のTrustpilotの豊富なデータと経験は、より優れた偽検出モデルの開発に有利な立場にあります。さらに、AIは透明性を高め、オンラインでユーザーをガイドできますが、洗練度が増すにつれて責任も大きくなります。

オンラインレビューの今後の展開

人間が生成したコンテンツとAIが生成したコンテンツの区別が大きくなるにつれて、本物の体験に基づくコンテンツの価値は高まります。Trustpilotのような、技術、人、コミュニティ、プロセスに投資して本物の声を強調するプラットフォームは、消費者と企業の両方にとってますます価値あるものとなるでしょう。

Anoop Joshiのこの洞察に満ちたインタビューに感謝します。彼の視点は、オンラインレビューの複雑な世界をナビゲートする貴重な洞察を提供します。あなたの考えは？これらの洞察は、オンラインレビューを見極める方法をよりよく理解するのに役立ちましたか？以下のコメントであなたの考えを共有してください。

ソーシャルメディアで私の毎日のプロジェクト更新をフォローしてください。私の週刊ニュースレターを購読するのを忘れず、Twitter/Xの@DavidGewirtz、FacebookのFacebook.com/DavidGewirtz、InstagramのInstagram.com/DavidGewirtz、YouTubeのYouTube.com/DavidGewirtzTVで私をフォローしてください。