YouTube усиливает меры защиты от поддельных видеороликов, созданных с помощью искусственного интеллекта, для политиков, государственных служащих и журналистов

YouTube расширяет доступ к своей технологии распознавания лиц, предназначенной для выявления дипфейков, созданных с помощью искусственного интеллекта, в рамках пилотной программы для государственных чиновников, политических кандидатов и журналистов, как сообщила компания во вторник. Участники этой пилотной программы смогут использовать инструмент, который обнаруживает несанкционированный контент, созданный с помощью искусственного интеллекта и содержащий их изображение, а также подавать запросы на его удаление, если он нарушает правила YouTube.

Эта технология была первоначально внедрена в прошлом году для примерно 4 миллионов авторов в рамках партнерской программы YouTube на основе ранее проведенных тестов.

Работая аналогично устоявшейся системе Content ID YouTube для материалов, защищенных авторским правом, эта функция обнаружения подобия сканирует видео на наличие лиц, смоделированных с помощью ИИ. Такие инструменты ИИ иногда используются для распространения дезинформации путем создания убедительных дипфейков публичных фигур — таких как политики или чиновники — в которых они изображаются говорящими или делающими то, чего на самом деле никогда не происходило.

С помощью этого нового пилотного проекта YouTube стремится найти баланс между защитой свободы слова и устранением рисков, связанных с технологиями искусственного интеллекта, которые могут создавать реалистичные имитации лиц, находящихся в центре общественного внимания.

«Это расширение в основном направлено на защиту целостности публичного дискурса», — заявила Лесли Миллер, вице-президент YouTube по правительственным вопросам и государственной политике, на пресс-конференции. «Мы осознаем повышенные риски, связанные с подделкой личности с помощью ИИ, для тех, кто занимает общественные должности. Предлагая эту новую защиту, мы внедряем ее с осторожностью», — добавила она.

Изображение:YouTube

Миллер пояснила, что не каждое обнаруженное совпадение будет автоматически удалено по запросу. YouTube будет оценивать каждый случай в соответствии со своей действующей политикой конфиденциальности, чтобы определить, является ли контент защищенным выражением, таким как пародия или политическая критика.

Компания также заявила о своей поддержке мер защиты на федеральном уровне, одобрив такие законодательные инициативы, как предлагаемый в Вашингтоне, округ Колумбия, закон NO FAKES Act, направленный на регулирование несанкционированного воспроизведения голоса и внешнего сходства человека с помощью ИИ.

Чтобы использовать этот инструмент, участники пилотного тестирования должны подтвердить свою личность, предоставив селфи и удостоверение личности, выданное государством. Затем они могут создать профиль, просматривать обнаруженные совпадения и подавать запросы на удаление. YouTube планирует в конечном итоге позволить пользователям блокировать нарушающий правила контент до его публикации или, возможно, претендовать на права на монетизацию, что будет отражать функциональность его системы Content ID.

YouTube не раскрыл имена конкретных лиц, включенных в первоначальную пилотную группу, но указал, что цель состоит в том, чтобы в будущем сделать эту технологию широко доступной.

Изображения:YouTube

Видео, идентифицированные как созданные с помощью ИИ, будут иметь метку, хотя ее расположение будет варьироваться. Для некоторых видов контента метка будет отображаться в описании видео, в то время как видео на более «деликатные темы» будут иметь более заметную метку непосредственно на видеоплеере. Такой подход соответствует практике YouTube по маркировке всего контента, созданного с помощью ИИ.

«Значительное количество контента создается с помощью ИИ, но этот факт не всегда является центральным для цели контента», — пояснил Амджад Ханиф, вице-президент YouTube по продуктам для авторов, касательно размещения метки. «Это может быть, например, мультфильм, созданный с помощью ИИ. Мы используем собственное суждение, чтобы решить, для каких категорий будет полезно разместить хорошо заметную метку».

YouTube не раскрывает точное количество удалений контента, созданного с помощью технологии deepfake, с момента ее предоставления авторам, но отмечает, что объем удаленного на данный момент контента был «минимальным».

«Для многих авторов основным преимуществом стало повышение осведомленности о том, что загружается. Фактическое количество запросов на удаление остается очень низким, поскольку большая часть контента является довольно безобидной или даже дополняет их канал», — сказал Ханиф.

Эта динамика может отличаться в случае дипфейков, нацеленных на государственных чиновников, политиков или журналистов.

В перспективе YouTube планирует расширить свою технологию обнаружения дипфейков, чтобы охватить другие области, включая узнаваемые голоса и интеллектуальную собственность, такую как популярные вымышленные персонажи.