Pinterest принимает меры для решения проблемы перегрузки контента, созданного искусственным интеллектом

Pinterest вводит новые меры прозрачности, чтобы помочь пользователям различать и минимизировать воздействие искусственного контента. Платформа визуальных открытий вводит автоматическую маркировку изображений, которые были идентифицированы как созданные искусственным интеллектом или манипулируемые, а также опции для уменьшения количества подобного контента в будущих рекомендациях.

"Поскольку материалы, созданные искусственным интеллектом, становятся все более распространенными на нашей платформе, мы предоставляем пользователям больше возможностей для контроля над своим опытом", - пояснил Мэтт Мадригал, директор по технологиям Pinterest. "Наша цель - способствовать подлинному вдохновению, продуманно интегрируя новые технологии, которые отвечают потребностям нашего сообщества".

Глобальное внедрение маркировки контента Pinterest с использованием искусственного интеллекта включает в себя отличительные индикаторы "AI modified", расположенные в левом нижнем углу при просмотре прикрепленных изображений. Методы обнаружения сочетают анализ метаданных (с использованием отраслевых стандартов, таких как SynthID от Google и Content Credentials от Adobe) с собственными алгоритмами классификации, которые определяют характеристики ИИ даже без цифровых водяных знаков.

Платформа признает, что системы обнаружения могут иногда неправильно классифицировать контент, и создала процесс обжалования для создателей. Кроме того, Pinterest разрабатывает специализированные фильтры для категорий, особенно подверженных влиянию синтетических медиа, начиная с косметического и художественного контента, а затем распространяя их на другие области.

Эта инициатива стала ответом на растущее недовольство пользователей Pinterest. Многие творческие и практичные пользователи отмечают, что им трудно найти подлинный справочный материал среди множества сгенерированных искусственным интеллектом пинов, на которых часто изображены несуществующие продукты или недостижимые эстетические решения. Эти искусственно созданные визуальные образы - от предметов моды до концепций дизайна интерьера - могут создавать нереалистичные ожидания, которые не находят применения в реальном мире.

В будущем функционале появится возможность детального управления через трехточечный интерфейс меню пинов, что позволит пользователям отдавать предпочтение менее искусственному контенту в своих лентах. Несмотря на то, что на начальном этапе система будет работать с определенными категориями, Pinterest предполагает, что она будет постепенно адаптироваться к предпочтениям пользователей по всем типам контента, что в перспективе изменит характер сосуществования синтетического и аутентичного контента на платформе.