Pinterest prend des mesures pour remédier à la surcharge de contenu générée par l'IA

Pinterest met en place de nouvelles mesures de transparence pour aider les utilisateurs à distinguer et à minimiser l'exposition aux contenus artificiels. La plateforme de découverte visuelle introduit un étiquetage automatique pour les images identifiées comme générées par l'IA ou manipulées, accompagné d'options permettant de réduire les contenus similaires dans les recommandations futures.

"Alors que les contenus générés par l'IA deviennent de plus en plus répandus sur notre plateforme, nous donnons aux utilisateurs un plus grand contrôle sur leur expérience", a expliqué Matt Madrigal, directeur de la technologie de Pinterest. "Notre objectif est d'améliorer l'inspiration authentique tout en intégrant de manière réfléchie les technologies émergentes qui répondent aux besoins de notre communauté."

Le déploiement mondial des étiquettes de contenu IA de Pinterest comporte des indicateurs distinctifs "AI modified" (modifié par l'IA) positionnés dans le coin inférieur gauche lors de la visualisation des images épinglées. Les méthodes de détection combinent l'analyse des métadonnées (en utilisant des normes industrielles telles que SynthID de Google et Content Credentials d'Adobe) avec des algorithmes de classification exclusifs qui identifient les caractéristiques de l'IA même en l'absence de filigrane numérique.

La plateforme reconnaît que les systèmes de détection peuvent parfois mal classer les contenus et a mis en place une procédure d'appel pour les créateurs. En outre, Pinterest développe des filtres spécialisés ciblant des catégories particulièrement touchées par les médias synthétiques, en commençant par la beauté et le contenu artistique avant de s'étendre à d'autres domaines.

Cette initiative répond à la frustration croissante des utilisateurs de Pinterest. De nombreux créatifs et utilisateurs pratiques font part de leur difficulté à trouver du matériel de référence authentique au milieu de la prolifération d'épingles générées par l'IA qui représentent souvent des produits inexistants ou une esthétique inatteignable. Qu'il s'agisse d'articles de mode ou de concepts de décoration d'intérieur, ces visuels créés artificiellement peuvent susciter des attentes irréalistes qui ne se traduisent pas par des applications dans le monde réel.

La prochaine fonctionnalité introduira des contrôles granulaires via l'interface à trois points du menu d'épinglage, ce qui permettra aux utilisateurs de signaler leur préférence pour moins de contenu d'IA dans leurs flux. Alors que les premières implémentations se concentrent sur des catégories spécifiques, Pinterest suggère que le système s'adaptera progressivement aux préférences des utilisateurs à travers plus de types de contenu, remodelant potentiellement la façon dont les contenus synthétiques et authentiques coexistent sur la plateforme.