Reddit met en place une vérification manuelle pour lutter contre l'activité des bots

Digg, le concurrent potentiel de Reddit, a récemment fermé ses portes après avoir échoué à contrôler les bots qui avaient envahi sa plateforme. Mercredi, Reddit a annoncé qu’il s’attaquait de front à ce problème.

La société va commencer à signaler les comptes automatisés qui fournissent un service aux utilisateurs, à l'instar de la manière dont les « bons bots » sont identifiés sur X. Elle exigera également que les comptes soupçonnés d'être des bots prouvent qu'ils sont humains.

Reddit souligne qu'il ne s'agit pas d'une obligation de vérification à l'échelle du site. Elle ne sera déclenchée que si l'activité d'un compte ou des signaux techniques suggèrent qu'il n'est pas humain. Les comptes qui échouent à la vérification pourraient faire l'objet de restrictions.

Pour repérer les bots potentiels, Reddit utilise des outils spécialisés qui analysent les signaux et les comportements au niveau des comptes, tels que la vitesse à laquelle un compte tente de publier du contenu. Il est à noter que l'utilisation de l'IA pour rédiger des publications ou des commentaires n'est pas contraire aux politiques de Reddit, bien que les modérateurs de chaque communauté puissent fixer leurs propres règles.

Pour la vérification humaine, Reddit utilisera des outils tiers tels que les clés d'accès d'Apple, de Google et de YubiKey, ainsi que des services biométriques comme Face ID ou même World ID de Sam Altman. Dans certains pays ou États américains, des pièces d'identité officielles peuvent être exigées en raison des lois locales sur la vérification de l'âge, bien que Reddit précise que ce n'est pas sa méthode préférée.

« Si nous devons vérifier qu'un compte est tenu par un humain, nous le ferons en accordant la priorité absolue à la confidentialité », a écrit Steve Huffman, cofondateur et PDG de Reddit, dans l'annonce. « Notre objectif est de confirmer qu'il y a une personne derrière le compte, pas d'identifier qui est cette personne. Nous visons à accroître la transparence sur ce qui est automatisé sur Reddit tout en préservant l'anonymat qui rend notre plateforme unique. Vous ne devriez pas avoir à sacrifier l'un pour l'autre. »

Ces changements répondent au problème croissant des bots sur les plateformes sociales et sur le Web en général, où ils sont souvent utilisés pour influencer la politique, diffuser de la désinformation, gonfler artificiellement la popularité, mener des actions de marketing dissimulées, générer de faux clics publicitaires, et plus encore. Selon Cloudflare, le trafic généré par les bots — y compris les robots d'indexation et les agents IA — devrait dépasser le trafic humain d'ici 2027.

Reddit est devenu une cible privilégiée pour les bots qui tentent de manipuler les discours, de mener des campagnes de faux activisme pour le compte d’entreprises, de republier des liens, de poster du spam, de générer du trafic ou de mener des recherches. De plus, comme le contenu de Reddit est utilisé pour entraîner des modèles d’IA dans le cadre d’accords lucratifs, on soupçonne que les bots publient même des questions afin de générer davantage de données d’entraînement dans des domaines où l’IA manque d’informations.

L'autre cofondateur de Reddit, Alexis Ohanian, s'est également exprimé sur la « théorie de l'Internet mort » qui y est associée — l'idée selon laquelle les bots sont plus nombreux que les humains en ligne et que la plupart des contenus, des interactions et de l'activité web sont automatisés ou générés par l'IA. À l'ère des agents IA, cette théorie devient de plus en plus une réalité.

La société a annoncé l'année dernière qu'elle allait commencer à exiger une vérification humaine en réponse à la vague de bots et pour répondre à l'évolution des exigences réglementaires. Cependant, Reddit note que les solutions actuelles, dont Huffman a récemment discuté dans le podcast TBPN, ne sont pas idéales.

« Les meilleures solutions à long terme seront décentralisées, individualisées, privées et, idéalement, ne nécessiteront aucune pièce d’identité », a écrit Huffman dans l’annonce d’aujourd’hui.

Parallèlement à ces mises à jour, Reddit a déclaré qu'il continuerait à supprimer les bots et les spams, à raison de 100 000 suppressions de comptes par jour en moyenne, et qu'il s'appuierait sur les signalements des utilisateurs concernant les bots suspects, avec des outils améliorés en cours de développement. Les développeurs exploitant des bots bénéfiques peuvent découvrir comment les marquer avec la nouvelle étiquette « APP » dans la communauté r/redditdev.