偽のレビューは大きな問題です - そしてこれがAIがそれを修正するのに役立つ方法です

2007年の設立以来、TrustPilotはユーザーレビューの頼りになるプラットフォームになり、100万近くの企業にわたって驚異的な2億3800万のレビューを獲得し、50の国籍に及びました。 TrustPilotは米国のビジネスのレビューを特集していますが、私が検索した地元の店はリストされていないことがわかり、Yelpでより多くの成功を収めました。 TrustPilotはヨーロッパでより強い足場を持っているようですが、ここでの議論のために、地理的焦点は私たちの主な関心事ではありません。代わりに、私たちはレビューサイト、つまり偽のレビューの拡散を悩ませる重要な問題に飛び込みます。

2023年、TrustPilotは、前年に260万人の削除を受けて、330万の偽のレビューを特定して削除することができました。偽のレビューとの継続的な戦いは、生成AIの台頭によりさらに挑戦的になります。アメリカ合衆国科学アカデミーの議事録（PNAS）の議事録に掲載された研究によると、AIに生成されたテキストと人間が書いたコンテンツを区別できるのは、消費者の約半数だけです。これは、消費者の意見を確保するために偽のレビューをフィルタリングすることを任されているTrustPilotのような消費者とプラットフォームの両方に大きなハードルを生み出します。

TrustPilotは、この問題に真正面から取り組むことを中心としたミッションにしました。 Trustpilotの最高信託責任者であるAnoop Joshiとの洞察に満ちた会話の中で、私たちは会社がAIに生成された偽のレビューとどのように反撃しているかを掘り下げました。

Anoop JoshiがTrustPilotの最高信託責任者への旅

4年以上TrustPilotに携わってきたAnoop Joshiは、約80のチームで会社の信頼と安全性と法的およびプライバシー業務を率いています。彼の役割には、訴訟、公務、世界的なコミュニケーション、商業契約、コンテンツモデレーション、ブランド保護、不正調査などの幅広い活動が含まれます。当初、ジョシは執行関連の仕事を担当し、企業や消費者によるTrustPilotプラットフォームでの誤用に取り組み、偽のレビューやさまざまな形態の虐待などの問題に取り組んでいました。

彼のチームは、会社の最初のプラットフォーム整合性チームに進化し、信頼と安全の運用面を強化しました。この作業は業界の認識を獲得し、TrustPilotがAmazon、Tripadvisor、Glassdoor、Booking.com、Expediaなどの主要なプレーヤーとともに、信頼できるレビューの連合の創設メンバーになりました。弁護士とソフトウェアエンジニアの両方としてのジョシの背景は、プラットフォーム上の信頼を構築し、維持するために重要な法律と技術の交差点をナビゲートするように彼を独自に位置づけています。

チーフトラストオフィサーの役割の定義

Joshiによると、TrustPilotの最高信託責任者の役割は、会社が信頼の普遍的な象徴であるというビジョンに応えることを保証することです。これには、TrustPilotの信頼が意味するものを定義します。これには、レビューの整合性、Webサイト上のコンテンツ、および企業が消費者と企業の両方をどのように扱うかを含めます。さらに、この役割は、消費者、従業員、企業、投資家、政策立案者、ジャーナリストなどの利害関係者の間で、リスクを軽減し、コンプライアンスを確保し、最終的には信頼と忠誠心を促進するガバナンスとプロセスを推進します。テクノロジーがより広範になり、オンラインエンゲージメントが高まるにつれて、Cスイートでのそのような役割の必要性は増加すると予想されます。

TrustPilotに関する一般的なタイプの偽のレビュー

TrustPilotは、偽のレビューを、本物の経験や読者を誤解させることを意図した経験に基づいていないレビューとして分類しています。彼らが遭遇して削除する最も一般的なタイプには次のものが含まれます。

• スパムレビュー：広告として役立つレビューまたは他のビジネスを宣伝します。
• 利益相反：ビジネスオーナーまたは従業員が自分のビジネスについて残したレビュー。
• 誤解を招くレビュー：実際にビジネスを経験していない個人が提出したレビュー。
• インセンティブベースのレビュー：多くの場合、誤解を招くコンテンツがあるインセンティブの影響を受けたレビュー。

レビューの信頼性に対するAIの生成コンテンツの影響

生成AIの上昇により、個人がコンテンツを作成しやすくなり、偽のレビューを生成するための障壁を下げました。これらのレビューを検出するためのTrustPilotのアプローチは、コンテンツ自体だけでなく動作に焦点を当てています。自動化されたシステムは、レビューと疑わしいマーカーを探して、レビューアとビジネスの関係を検討し、レビューの提出方法を分析します。 ChatGPTのようなテクノロジーの出現にもかかわらず、TrustPilotの最新の透明性レポートは、前年比の一貫した前年比の検出率を偽のレビューの検出率であることを示しており、彼らのシステムがこの課題にうまく耐えられていることを示唆しています。

TrustPilotがAIと機械学習を使用して偽のレビューをどのように検出するか

TrustPilotに提出されたすべてのレビューは、自動化された偽のレビュー検出エンジンによる分析を受けます。これらのエンジンは、レビュー担当者の以前の行動やプロモーションステートメントなど、レビューのさまざまな側面を考慮しています。アクションが取られる前にいくつかのパターンが出現するのに時間がかかる場合があります。さらに、TrustPilotは消費者と企業のコミュニティに依存して不審なレビューにフラグを立て、コンテンツインテグリティチームの人間のモデレーターによってレビューされます。レビューが削除された場合、レビュアーに通知され、決定を上訴する機会が与えられます。自動検出と人間の監視のこの組み合わせは、偽のレビューを特定して削除するためのTrustPilotのアプローチを継続的に改善するのに役立ちます。

本物と偽のレビューを区別する際の課題

トラストパイロットが直面する主な課題の1つは、いくつかの行動パターンがすぐには明白ではなく、開発と理解に時間が必要であることです。これにより、本物と偽のレビューを区別することが継続的な課題になります。

AIが支援する本物のレビューの処理

TrustPilotは、レビュアーがビジネスで真の経験を積んだかどうか、およびその経験がレビューに正確に反映されているかどうかを評価します。 AIに生成されたテキストを含む他のソースからコピーされたコンテンツなどの要因は、レビューが疑わしいかどうかを判断する際に考慮されます。高度な疑いが見つかった場合、レビューは削除され、レビュアーに通知され、決定に異議を唱える機会が与えられます。 TrustPilotは、AIツールがレビュアーが本物の体験をフレーミングするのを支援できることを認識して、特にアクセシビリティや神経多様性のニーズを持つ人々のためにバランスをとることを目指しています。

自動検出と人間の監視のバランス

TrustPilotは、人間が自動化ソフトウェアの設計と実装に関与していることを保証します。スケーリング操作には自動化が重要ですが、トラストパイロットが解決する問題は基本的に人間であり、これらの課題は時間とともに進化します。したがって、自動化は、人間の行動から得られた洞察に基づいて適応する必要があります。

時間の経過に伴う偽のレビュー検出率の変化

2022年度の4,600万人から2023年度の5400万人に前年比のレビューが増加したにもかかわらず、削除された偽のレビューの割合は6％で一貫していました。 2023年、TrustPilotのシステムは、偽のレビューの79％を検出および削除し、テクノロジーへの継続的な投資の有効性を示しました。 AIと機械学習は進化し続けていますが、TrustPilotが行動パターンとコミュニティレポートに焦点を当てていることは、堅牢な検出システムを維持するのに役立ちます。

信頼と評判に対する偽のレビューの長期的な影響

偽のレビューは、消費者の決定に大きな影響を与える可能性があり、否定的な経験とオンラインプラットフォームでの信頼の喪失につながります。プラットフォームが偽のレビューに効果的に対処できない場合、消費者は購入の決定を下すために使用するプラットフォームに対する信頼を失い、消費者の信頼とビジネスの評判の両方に影響を与える可能性があります。

AIの倫理的考慮事項は、レビューモデレートに使用します

透明性は、レビュー節度でAIを使用するためのTrustPilotの倫理的アプローチの中心です。同社は、自動化された意思決定のためにAIの使用についてオープンであり、消費者と企業間の信頼を促進するというコミットメントと一致しています。

実際のレビューを特定するために消費者を教育する

TrustPilotは信頼信号を使用して検証済みのレビューを強調し、レビュアーが自分自身を検証できるようにし、消費者がさまざまな種類のレビューを区別できるようにします。さらに、プラットフォームの誤用のために企業に対して執行措置が取られた場合、TrustPilotは消費者の警告を表示して、消費者が情報に基づいた選択をするのに役立ちます。

偽のレビューとの闘いにおけるAIの将来

将来は、特にパターンを予測する生成AIの能力を備えた、偽のレビューと戦うためにAIを使用するための重要な可能性を秘めています。 2007年以降のTrustPilotの広範なデータと経験は、より良い偽の検出モデルを開発することがうまく位置付けられています。さらに、AIは透明性を高め、ユーザーをオンラインでガイドすることができますが、洗練度の向上には大きな責任があります。

オンラインレビューの将来の開発

人間で生成されたコンテンツとAIに生成されたコンテンツの区別が増加するにつれて、本物のエクスペリエンスベースのコンテンツの価値が増加します。テクノロジー、人、コミュニティ、および本物の声を強調するプロセスに投資するTrustPilotのようなプラットフォームは、消費者と企業の両方にとってますます価値が高くなります。

この洞察に満ちたインタビューには、Anoop Joshiに感謝の気持ちを拡大したいと思います。彼の視点は、オンラインレビューの複雑な世界をナビゲートすることに関する貴重な洞察を提供します。あなたの考えは何ですか？これらの洞察は、オンラインレビューをふるいにかける方法をよりよく理解するのに役立ちましたか？以下のコメントであなたの考えを共有してください。

ソーシャルメディアでの毎日のプロジェクトの最新情報を最新の状態に保ちます。私の毎週のニュースレターを購読し、Twitter/X（@davidgewirtz）、facebook.com/davidgewirtz、instagram.com/davidgewirtzのyoutubeで、youtube.com/davidgewirtztvのTwitter/Xで私をフォローしてください。