저품질의 AI 생성 콘텐츠가 주요 온라인 플랫폼들에 대거 유입되면서 콘텐츠의 질이 저하되고 정보 생태계가 오염되고 있습니다. 여러 기술 기업들은 이를 정화하기 위한 캠페인을 추진하고 있는데, 스포티파이는 7,500만 곡의 불필요한 음악을 삭제했으며, 구글은 저품질 채널 13만 개를 제거했고, 링크드인은 AI로 생성된 낮은 품질의 콘텐츠를 신고할 수 있는 도구를 추가했습니다. 이러한 저품질 콘텐츠들 중 상당수는 해당 기업들이 자체적으로 개발한 AI 도구를 통해 만들어진 것입니다. 메리암-웹스터는 이런 종류의 콘텐츠를 ‘올해의 단어’로 선정했으며, 일부 음악 플랫폼에서 신규로 등장하는 곡들 중 거의 절반이 AI가 생성한 것으로 추정됩니다. 이 문제를 해결하겠다고 약속했음에도 실제로는 제대로 대응하지 않는다는 비판을 자주 받는 것이 바로 이러한 기업들입니다. 현재 사용되고 있는 정화 방법들은 각 콘텐츠를 개별적으로 검토하는 대신 악용 패턴을 파악하거나 AI가 생성한 영상에 자동으로 라벨을 부착하는 것인데, 전문가들은 이러한 방식들이 정당한 창작자들에게 피해를 줄 수 있으며 체계적인 문제를 해결하지 못할 뿐만 아니라 적절히 대처하지 않으면 사용자 이탈을 초래할 위험이 있다고 경고하고 있습니다.