假評論是一個大問題 - 這是AI可以幫助解決的問題

自2007年成立以來，Trustpilot已成為用戶評論的首選平台，在近100萬個企業中獲得了2.38億個評論，跨越了50個國籍。儘管TrustPiLot確實對美國業務進行了評論，但我發現我搜索的本地商店尚未列出，並且在Yelp中我取得了更大的成功。看來TrustpiLot在歐洲的立足點更強，但是對於我們在這裡的討論，地理重點不是我們的主要關注點。取而代之的是，我們正在陷入困擾審查網站的關鍵問題：假評論的擴散。

2023年，Trustpilot在上一年刪除260萬次後，設法識別並刪除了330萬個假評論。通過生成AI的興起，這場與假評論的持續鬥爭更加具有挑戰性。根據美國美國國家科學院論文集（PNAS）發表的研究，只有大約一半的消費者可以區分AI生成的文本和人類寫的內容。這為Trustpilot等消費者和平台都構成了重大障礙，他們的任務是篩選偽造的評論，以確保消費者意見的真實性。

TrustPilot已將其作為核心使命，目的是直接解決此問題。在與Trustpilot的首席信託官Anoop Joshi的深入討論中，我們深入研究了該公司如何反對AI生成的假評論。

Anoop Joshi前往Trustpilot首席信託官的旅程

在Trustpilot工作了四年多的Anoop Joshi領導了公司的信任，安全以及法律和隱私運營，大約有80人。他的角色包括廣泛的活動，包括訴訟，公共事務，全球通信，商業合同，商業合同，內容調製，品牌保護和欺詐調查。最初，喬希負責與執法有關的工作，企業或消費者在Trustpilot平台上解決濫用，並解決諸如虛假評論和各種形式的虐待問題。

他的團隊演變成公司的第一個平台完整性團隊，增強了信任和安全的運營方面。這項工作獲得了行業的認可，導致Trustpilot與亞馬遜，Tripadvisor，Glassdoor，Booking.com和Expedia等主要參與者一起成為Trusted Reviews聯盟的創始成員。喬希（Joshi）作為律師和軟件工程師的背景使他唯一地定位了法律和技術的交集，這對於在平台上建立和維持信任至關重要。

定義首席信託官的角色

根據喬希的說法，TrustPilot首席信託官的角色是確保公司辜負其成為信任的普遍象徵的願景。這涉及定義信任對TrustPilot的意義，其中包括評論的完整性，網站上的內容以及公司如何對待消費者和企業。此外，該角色驅動了治理和流程，以減輕風險，確保合規性，並最終促進消費者，員工，企業，投資者，政策制定者和記者等利益相關者的信任和忠誠度。隨著技術變得越來越普遍和在線參與的增長，預計在C套件中此類角色的需求有望增加。

關於TrustPilot的假評論的常見類型

TrustPilot將虛假評論歸類為不基於真正的經驗或旨在誤導讀者的評論。他們遇到和刪除的最常見類型包括：

• 垃圾郵件評論：作為廣告或推廣其他業務的評論。
• 利益衝突：企業主或員工對自己的業務的評論。
• 誤導性評論：沒有真正經歷過該業務的個人提交的評論。
• 基於激勵的評論：受激勵措施影響的評論通常具有誤導性內容。

AI生成的內容對審查真實性的影響

生成AI的興起使個人更容易創建內容，從而降低了產生虛假評論的障礙。 TrustPilot檢測這些評論的方法集中在行為上，而不僅僅是內容本身。他們的自動化系統分析瞭如何提交評論，尋找模式和可疑標記，同時也考慮了審稿人與企業之間的關係。儘管TrustPilot的最新透明度報告像Chatgpt這樣的技術出現了，但假冒評論的全年檢測率一致，這表明他們的系統在這一挑戰中表現出色。

TrustPilot如何使用AI和機器學習檢測到虛假評論

提交給TrustPilot的每次審查都通過自動假審查檢測引擎進行分析。這些引擎考慮了審查的各個方面，例如審閱者的先前行為和任何促銷陳述。在採取行動之前，有些模式可能需要時間才能出現。此外，TrustPilot依靠其消費者和企業社區來標記可疑評論，然後由內容完整性團隊中的人類主持人對此進行審查。如果刪除了審查，請通知審核者並有機會對該決定提出上訴。自動檢測和人類監督的這種結合有助於不斷提高信任私人識別和刪除虛假評論的方法。

區分真實和假評論的挑戰

Trustpilot面對的主要挑戰之一是，某些行為模式並不明顯，需要時間來發展和理解。這使得在真正的和假評論之間區分持續的挑戰。

處理AI協助的真實評論

TrustPilot評估了審稿人是否在企業上有真正的經驗，並且這種經驗是否準確地反映在他們的評論中。在確定審查是否可疑時，請考慮從其他來源複製的內容，包括AI生成的文本。如果發現高度懷疑，則將審查刪除，並告知審核者並有機會挑戰決定。 TrustPilot旨在達到平衡，認識到AI工具可以幫助審閱者構建真正的體驗，尤其是對於有可及性或神經多樣性需求的人。

平衡自動檢測與人類的監督

TrustPilot確保人類參與設計和實施其自動化軟件。儘管自動化對於擴展操作至關重要，但這些問題TrustPiLot解決了從根本上人類，這些挑戰隨著時間的推移而發展。因此，自動化必鬚根據人類行為獲得的見解來適應。

隨著時間的推移，虛假審核檢測率的變化

儘管總審查的總審查從2022財年的4,600萬次增加到2023財年的5400萬，但被刪除的假審查比例仍保持一致，為6％。 2023年，TrustPilot的系統檢測並刪除了79％的虛假評論，展示了其對技術的持續投資的有效性。當AI和機器學習繼續發展時，TrustPilot對行為模式和社區報告的關注有助於維持強大的檢測系統。

虛假評論對信任和聲譽的長期影響

虛假評論會嚴重影響消費者的決策，從而導致負面的經歷和在線平台上失去信任。如果平台無法有效地解決虛假評論，消費者可能會對他們用來做出購買決策的平台失去信心，從而影響消費者信任和業務聲譽。

人工智能使用中的道德考慮因素用於審查審查

透明度是Trustpilot使用AI進行審查適度的道德方法的核心。該公司開放，旨在將AI用於自動決策，與對消費者和企業之間的信任的承諾保持一致。

教育消費者確定真實評論

TrustPilot使用信任信號來強調經過驗證的評論，並允許審閱者驗證自己，確保消費者可以區分不同類型的評論。此外，當對企業濫用企業採取執法措施時，TrustPilot會顯示消費者警告，以幫助消費者做出明智的選擇。

AI打擊虛假評論的未來

未來具有使用AI來對抗虛假評論的巨大潛力，尤其是生成AI預測模式的能力。自2007年以來，TrustPilot的廣泛數據和經驗很好地開發了更好的假探測模型。此外，AI可以提高透明度並在線指導用戶，但是隨著複雜性的增加，責任更大。

在線評論的未來發展

隨著人類生成和AI生成的內容之間的區別增長，基於經驗的內容的價值將增加。像TrustPilot這樣的平台投資於技術，人員，社區和流程以突出地道的聲音，對消費者和企業都將變得越來越有價值。

我們要對Anoop Joshi表示感謝。他的觀點為瀏覽複雜的在線評論世界提供了寶貴的見解。你的想法是什麼？這些見解是否可以幫助您更好地了解如何通過在線評論進行篩選？在下面的評論中分享您的想法。

隨時可以更新我的社交媒體上的每日項目更新。不要忘記訂閱我的每週新聞通訊，並在@davidgewirtz上的Twitter/x上關注我，在Facebook上的facebook.com/davidgewirtz，instagram上的Instagram.com/davidgewirtz，在youtube.com/youtube.com/davidgewightwirtztv上關注我。