Мертвые не могут подать в суд за клевету, но глубокие подделки вызывают новые этические тревоги.

Зельда Уильямс, дочь покойного актера Робина Уильямса, обращается к поклонникам своего отца с глубоко личным посланием.

"Я прошу вас, пожалуйста, перестаньте присылать мне сгенерированные искусственным интеллектом видеоролики о моем отце. Не думайте, что я хочу их видеть или что я найду в них смысл. Я не хочу и не буду", - написала она в своем Instagram, опубликованном в понедельник. "Если у вас есть хоть капля уважения, просто перестаньте поступать так с ним, со мной и со всеми остальными. Это бессмысленно, пустая трата сил, и я уверяю вас, это НЕ то, чего бы он хотел".

Вероятно, Уильямс не случайно написал об этом вскоре после запуска видеомодели Sora 2 от OpenAI и социального приложения Sora, которое позволяет пользователям создавать очень убедительные глубокие подделки себя, своих друзей и конкретных мультипликационных персонажей.

Эта возможность распространяется и на умерших людей, которые, судя по всему, являются незащищенными мишенями, поскольку, как отмечает Student Press Law Center, клевета на мертвых не является противозаконной.

Sora ограничивает пользователей в создании видеороликов с живыми людьми - если только это не они сами или их друзья, которые дали разрешение на использование их образа (то, что OpenAI называет "камео"). Однако эти ограничения не распространяются на умерших, которых можно воссоздавать без помех. В приложение, доступное в настоящее время только по приглашениям, уже поступил поток видеороликов с участием исторических личностей, таких как Мартин Лютер Кинг-младший, Франклин Делано Рузвельт и Ричард Никсон, а также покойных знаменитостей, таких как Боб Росс, Джон Леннон, Алекс Требек и, конечно же, Робин Уильямс.

Политика OpenAI в отношении создания видео с мертвыми остается неоднозначной. Например, по результатам тестирования TechCrunch, Sora 2 не будет создавать видео с бывшим президентом Джимми Картером, который скончался в 2024 году, или Майклом Джексоном, который умер в 2009 году, но при этом она создала контент, напоминающий Робина Уильямса, который умер в 2014 году. В то время как функция "камео" OpenAI позволяет живым людям устанавливать правила для своего появления в видео, созданных другими людьми - ответ на предыдущую критику в адрес Sora, - умершие не имеют такого контроля. Я представляю, как Ричард Никсон перевернулся бы в гробу, если бы увидел сделанный мной deepfake, в котором он одобряет отмену полиции.

OpenAI не ответила на запрос TechCrunch о допустимости создания deepfakes умерших людей. Тем не менее, вполне возможно, что создание deepfakes покойных знаменитостей, таких как Уильямс, подпадает под допустимое использование компании; юридический прецедент говорит о том, что OpenAI, скорее всего, не будет нести ответственность за дискредитацию умерших.

Присоединяйтесь к 10 000+ лидерам технологических и венчурных компаний для развития и налаживания связей на Disrupt 2025

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - вот лишь некоторые из 250 с лишним лидеров, которые проведут 200 с лишним сессий, призванных дать понимание того, что способствует росту стартапов и оттачивает ваше преимущество. Не пропустите 20-ю годовщину TechCrunch и возможность поучиться у ведущих специалистов в области технологий. Успейте купить билет до открытия дверей, чтобы сэкономить до 444 долларов.

Присоединяйтесь к 10 тысячам и более лидеров в области технологий и венчурного инвестирования для развития и налаживания связей на Disrupt 2025.

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - вот лишь некоторые из 250 с лишним лидеров, которые проведут 200 с лишним сессий, чтобы донести до вас идеи, способствующие росту стартапов и отточить ваше преимущество. Не упустите шанс поучиться у ведущих специалистов в области технологий. Успейте купить билет до открытия дверей, чтобы сэкономить до 444 долларов.

"Видеть, как наследие реальных людей сводится к "это смутно похоже на них, так что этого достаточно", только для того, чтобы другие могли создавать ужасный контент TikTok, кукловодствуя ими, - это приводит в ярость", - написал Уильямс.

Критики OpenAI утверждают, что компания небрежно относилась к подобным вопросам, поэтому после запуска Sora быстро наполнилась роликами ИИ с персонажами, защищенными авторским правом, такими как Питер Гриффин и Пикачу. Генеральный директор Сэм Альтман изначально заявил, что голливудские студии и агентства должны будут явно отказаться от участия в проекте, если они не хотят, чтобы их интеллектуальная собственность использовалась в видеороликах, созданных Sora. Motion Picture Association уже призвала OpenAI решить эту проблему, заявив, что "устоявшееся законодательство об авторском праве защищает права создателей и применимо в данном случае". С тех пор Альтман объявил, что компания изменит эту позицию.

Sora - это, пожалуй, самая опасная модель ИИ с возможностью глубокой подделки, доступная общественности на сегодняшний день, учитывая реалистичность ее результатов. Конкурирующие платформы, такие как xAI, менее продвинуты, но имеют еще меньше гарантий, позволяя создавать порнографические глубокие подделки реальных людей. Пока другие компании сокращают разрыв с OpenAI, мы рискуем создать ужасающий прецедент, если будем относиться к реальным людям - живым или мертвым - как к игрушкам.