Los muertos no pueden demandar por difamación, pero los deepfakes suscitan nuevas alarmas éticas.

Zelda Williams, la hija del fallecido actor Robin Williams, comparte un mensaje muy personal con los fans de su padre.

"Os pido, por favor, que dejéis de enviarme vídeos de mi padre generados por IA. No penséis que quiero verlos o que los voy a encontrar significativos. No lo hago y no lo haré", expresó en una historia de Instagram publicada el lunes. "Si tenéis algo de respeto, dejad de hacerle esto a él, a mí y a todos los demás. No tiene sentido, es una pérdida de esfuerzo, y puedo asegurarte que NO es lo que él hubiera querido."

No es ninguna coincidencia que Williams se sintiera obligado a publicar esto poco después del lanzamiento del modelo de vídeo Sora 2 de OpenAI y de la aplicación social Sora, que permite a los usuarios crear imitaciones muy convincentes de sí mismos, de sus amigos y de determinados personajes de dibujos animados.

Esta capacidad se extiende a las personas fallecidas, que parecen ser objetivos desprotegidos ya que, como señala el Student Press Law Center, no es ilegal difamar a los muertos.

Sora prohíbe a los usuarios generar vídeos de personas vivas, a menos que se trate de ellos mismos o de un amigo que haya dado permiso para utilizar su imagen (lo que OpenAI denomina "cameo"). Sin embargo, estas restricciones no afectan a los fallecidos, a los que se puede recrear sin problemas. La aplicación, actualmente disponible sólo por invitación, ha visto una afluencia de vídeos con figuras históricas como Martin Luther King, Jr., Franklin Delano Roosevelt y Richard Nixon, junto con celebridades fallecidas como Bob Ross, John Lennon, Alex Trebek y, de hecho, Robin Williams.

La política de OpenAI sobre la generación de vídeos de muertos sigue siendo ambigua. Por ejemplo, según las pruebas realizadas por TechCrunch, Sora 2 no producirá vídeos del ex presidente Jimmy Carter, fallecido en 2024, ni de Michael Jackson, fallecido en 2009, aunque sí creó contenidos parecidos a Robin Williams, fallecido en 2014. Aunque la función de cameo de OpenAI permite a las personas vivas establecer directrices para su aparición en vídeos generados por otros -una respuesta a críticas anteriores a Sora-, los fallecidos no tienen ese control. Imagino que Richard Nixon se revolvería en su tumba si viera el deepfake que hice de él apoyando la abolición de la policía.

OpenAI no ha respondido a la pregunta de TechCrunch sobre la permisibilidad de crear deepfakes de personas fallecidas. No obstante, es posible que generar deepfakes de celebridades fallecidas como Williams entre dentro del uso aceptable de la empresa; los precedentes legales sugieren que OpenAI probablemente no se enfrentaría a responsabilidad por difamar a los muertos.

Únete a más de 10.000 líderes tecnológicos y de capital riesgo para crecer y establecer contactos en Disrupt 2025

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla... son sólo algunos de los más de 250 pesos pesados que protagonizarán las más de 200 sesiones diseñadas para ofrecer las ideas que impulsen el crecimiento de las startups y afinen su ventaja. No te pierdas el 20º aniversario de TechCrunch y la oportunidad de aprender de las voces más destacadas del mundo de la tecnología. Consigue tu entrada antes de que se abran las puertas y ahorra hasta 444 $.

Únete a más de 10.000 líderes tecnológicos y de capital riesgo para crecer y establecer contactos en Disrupt 2025.

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - sólo algunos de los más de 250 pesos pesados que dirigirán más de 200 sesiones diseñadas para ofrecer las ideas que impulsan el crecimiento de las startups y afinar su ventaja. No te pierdas la oportunidad de aprender de las voces más destacadas de la tecnología. Consiga su entrada antes de que se abran las puertas y ahorre hasta 444 $.

"Ver el legado de personas reales reducido a 'esto se parece vagamente a ellos, así que es lo suficientemente bueno', sólo para que otros puedan producir horribles contenidos TikTok manipulándolos, es exasperante", escribió Williams.

Los detractores de OpenAI argumentan que la empresa ha sido descuidada en este tipo de asuntos, razón por la cual Sora se saturó rápidamente con clips de IA de personajes protegidos por derechos de autor como Peter Griffin y Pikachu tras su lanzamiento. Sam Altman, CEO de la empresa, declaró inicialmente que los estudios y agencias de Hollywood tendrían que optar explícitamente por no participar si no querían que su propiedad intelectual se utilizara en los vídeos generados por Sora. La Motion Picture Association ya ha instado a OpenAI a abordar esta cuestión, afirmando que "la ley de derechos de autor bien establecida protege los derechos de los creadores y es aplicable en este caso." Desde entonces, Altman ha anunciado que la empresa dará marcha atrás en esta postura.

Sora es sin duda el modelo de IA con capacidad de deepfake más peligroso disponible para el público hasta la fecha, dado el realismo de sus resultados. Las plataformas de la competencia, como xAI, son menos avanzadas, pero tienen aún menos salvaguardas, lo que permite la creación de deepfakes pornográficos de personas reales. Mientras otras empresas acortan distancias con OpenAI, corremos el riesgo de sentar un precedente aterrador si tratamos a personas reales, vivas o muertas, como meros juguetes.