Du contenu généré par l’IA de faible qualité inonde les principales plateformes en ligne, ce qui diminue la qualité des contenus et pollue l’écosystème informationnel. Les entreprises technologiques lancent des campagnes de nettoyage : Spotify a supprimé 75 millions de pistes inutiles, Google a effacé 130 000 chaînes de faible qualité, et LinkedIn a ajouté un outil de signalement pour les contenus générés par l’IA. Beaucoup de ces éléments de mauvaise qualité ont été créés par leurs propres outils d’IA. Merriam-Webster a désigné ce type de contenu comme le mot de l’année, et selon certaines sources, près de la moitié des nouvelles chansons sur certaines plateformes musicales sont générées par l’IA. Les entreprises responsables font souvent l’objet de critiques pour ne pas tenir leurs promesses de résoudre ce problème. Les méthodes actuelles de nettoyage consistent à identifier les schémas d’abus plutôt qu’à examiner chaque élément individuellement, ainsi qu’à étiqueter automatiquement les vidéos générées par l’IA ; cependant, des experts mettent en garde contre le fait que ces approches pourraient nuire aux créateurs légitimes et échouer à résoudre les problèmes systémiques, ce qui pourrait entraîner une perte d’utilisateurs si elles ne sont pas gérées correctement.