YouTube расширяет сферу применения технологии искусственного интеллекта для выявления дипфейков, распространив её на политиков, государственных чиновников и журналистов

Во вторник YouTube объявил о расширении доступа к своей технологии обнаружения дипфейков для определенной группы государственных чиновников, политических кандидатов и журналистов. Этот инструмент выявляет изображения, созданные с помощью искусственного интеллекта, и позволяет участникам пилотного проекта запрашивать удаление несанкционированного контента, который, по их мнению, нарушает правила YouTube.

Система обнаружения была впервые запущена в прошлом году для примерно 4 миллионов авторов в рамках Партнерской программы YouTube после предварительных этапов тестирования.

Подобно существующей системе Content ID YouTube для материалов, защищенных авторским правом, функция обнаружения подобий идентифицирует лица, смоделированные с помощью ИИ. Эти синтетические изображения иногда используются для распространения дезинформации и искажения реальности, заставляя известных личностей говорить или делать то, чего они никогда не делали в реальной жизни.

С помощью этой пилотной программы YouTube стремится найти баланс между свободой самовыражения и рисками, связанными с технологиями искусственного интеллекта, которые могут создавать убедительные изображения общественных деятелей.

«Это расширение действительно направлено на защиту целостности общественного диалога», — заявила Лесли Миллер, вице-президент YouTube по связям с государственными органами и государственной политике, на пресс-конференции перед объявлением во вторник. «Мы признаем, что подделка личности с помощью ИИ представляет особенно высокий риск для тех, кто работает в гражданском секторе. Но, предоставляя эту новую меру защиты, мы также применяем ее с осторожностью», — добавила она.

Источник изображения: YouTube

Миллер пояснила, что не каждое обнаруженное совпадение будет удалено по запросу. Вместо этого YouTube будет оценивать каждый запрос в соответствии со своей действующей политикой конфиденциальности, чтобы определить, относится ли контент к пародии или политической критике — обе эти формы являются защищенными формами свободного выражения мнения.

Компания также выступает за введение мер защиты на федеральном уровне, поддерживая законопроект NO FAKES Act в Вашингтоне, который будет регулировать несанкционированное воссоздание голоса и внешнего сходства человека с помощью ИИ.

Участники пилотного тестирования, отвечающие требованиям, должны подтвердить свою личность, загрузив селфи и государственное удостоверение личности, прежде чем использовать инструмент. После одобрения они могут создать профиль, просматривать обнаруженные совпадения и запрашивать удаление, если это необходимо. В конечном итоге YouTube планирует позволить пользователям блокировать нарушающий правила контент до его публикации или потенциально монетизировать эти видео, аналогично тому, как работает Content ID.

YouTube отказался назвать конкретных политиков или чиновников из первоначальной группы тестеров, но заявил, что цель состоит в том, чтобы со временем сделать эту технологию широко доступной.

Источник изображения: YouTube

Видео, сгенерированные ИИ, будут иметь метки, указывающие на их синтетическое происхождение, хотя их размещение может варьироваться. Для большинства контента метка появляется в описании видео. Для более деликатных тем метка отображается на видном месте перед началом воспроизведения видео. Этот подход отражает более общую политику YouTube в отношении всего контента, сгенерированного ИИ.

«Много контента создается с помощью ИИ, но это различие не всегда существенно для самого контента», — пояснил Амджад Ханиф, вице-президент YouTube по продуктам для авторов, касательно размещения метки. «Например, мультфильм, сгенерированный ИИ, отличается от контента, который может потребовать более заметного предупреждения. Контекст имеет значение», — сказал он.

YouTube не раскрывает, сколько удалений дипфейков было обработано с помощью инструмента для авторов, но отмечает, что на данный момент их количество «очень невелико».

«Для большинства авторов этот инструмент в основном повысил осведомленность о том, что производится. Фактическое количество запросов на удаление крайне мало, поскольку большая часть обнаруженного контента оказывается безобидной или даже способствует развитию их бизнеса», — сказал Ханиф.

Это может не относиться к дипфейкам с участием государственных чиновников, политиков или журналистов.

В перспективе YouTube планирует расширить свою технологию обнаружения дипфейков на дополнительные области, включая узнаваемые голоса и интеллектуальную собственность, такую как популярные персонажи.