Conteúdo de baixa qualidade gerado por IA tem invadido as principais plataformas online, reduzindo a qualidade dos materiais disponíveis e poluindo o ecossistema informativo. As empresas de tecnologia estão lançando campanhas de limpeza: o Spotify removeu 75 milhões de faixas inúteis, o Google excluiu 130.000 canais de baixa qualidade, e o LinkedIn adicionou uma ferramenta de denúncia para conteúdo gerado por IA. Muitos desses materiais de baixa qualidade foram criados por suas próprias ferramentas de inteligência artificial. A Merriam-Webster apelidou esse tipo de conteúdo de “palavra do ano”, e estimativas indicam que quase metade das novas músicas em algumas plataformas musicais é gerada por IA. As empresas responsáveis costumam ser criticadas por não cumprirem as promessas feitas para resolver o problema. Atuais métodos de limpeza incluem a identificação de padrões de abuso, em vez da análise individual de cada conteúdo, além da rotulagem automática de vídeos gerados por IA; no entanto, especialistas alertam que essas abordagens podem prejudicar criadores legítimos e falhar em resolver problemas sistêmicos, o que pode levar à perda de usuários se não forem geridas adequadamente.