YouTube refuerza las medidas de protección contra los deepfakes generados por IA para políticos, funcionarios y periodistas

YouTube está ampliando el acceso a su tecnología de detección de imágenes generadas por IA, diseñada para identificar «deepfakes», a un programa piloto dirigido a funcionarios públicos, candidatos políticos y periodistas, según anunció la empresa el martes. Los participantes en este programa piloto podrán utilizar una herramienta que detecta contenido no autorizado generado por IA en el que aparezca su imagen y solicitar su retirada si incumple las políticas de YouTube.

Esta tecnología se implementó inicialmente el año pasado para aproximadamente 4 millones de creadores del Programa de socios de YouTube, basándose en pruebas anteriores.

Esta función de detección de imágenes, que funciona de manera similar al sistema Content ID de YouTube para material protegido por derechos de autor, busca rostros simulados por IA. Estas herramientas de IA se utilizan en ocasiones para difundir desinformación mediante la creación de deepfakes convincentes de figuras públicas —como políticos o funcionarios— en los que se les muestra diciendo o haciendo cosas que nunca ocurrieron.

A través de esta nueva prueba piloto, YouTube busca encontrar un equilibrio entre la protección de la libertad de expresión y la gestión de los riesgos que plantea la tecnología de IA, capaz de producir imitaciones realistas de personas que están en el punto de mira público.

«Esta ampliación tiene como objetivo fundamental salvaguardar la integridad del discurso público», declaró Leslie Miller, vicepresidenta de Asuntos Gubernamentales y Políticas Públicas de YouTube, en una rueda de prensa. «Reconocemos los riesgos elevados que supone la suplantación de identidad mediante IA para quienes desempeñan funciones cívicas. Aunque ofrecemos esta nueva protección, la estamos implementando con mucha cautela», añadió.

Créditos de la imagen:YouTube

Miller aclaró que no todas las coincidencias detectadas se eliminarán automáticamente tras una solicitud. YouTube evaluará cada caso según su política de privacidad vigente para determinar si el contenido constituye una expresión protegida, como una parodia o una crítica política.

La empresa también manifestó su apoyo a las protecciones a nivel federal, respaldando legislación como la propuesta Ley NO FAKES en Washington, D.C., cuyo objetivo es regular la réplica no autorizada mediante IA de la voz y la imagen de una persona.

Los participantes elegibles en la prueba piloto deben verificar su identidad proporcionando una selfie y un documento de identidad oficial para poder utilizar la herramienta. A continuación, pueden crear un perfil, revisar las coincidencias detectadas y solicitar su eliminación. YouTube tiene previsto permitir en el futuro a los usuarios bloquear el contenido infractor antes de su publicación o, potencialmente, reclamar derechos de monetización, imitando la funcionalidad de su sistema Content ID.

YouTube no reveló los nombres de las personas incluidas en el grupo piloto inicial, pero indicó que el objetivo es que la tecnología esté ampliamente disponible en el futuro.

Créditos de las imágenes:YouTube

Los vídeos identificados como generados por IA llevarán una etiqueta, aunque su ubicación variará. En algunos contenidos, la etiqueta aparecerá en la descripción del vídeo, mientras que los vídeos sobre «temas más delicados» mostrarán una etiqueta más destacada directamente en el reproductor de vídeo. Este enfoque es coherente con el etiquetado de YouTube para todo el contenido generado por IA.

«Se produce una cantidad significativa de contenido con IA, pero ese hecho no siempre es fundamental para el propósito del contenido», explicó Amjad Hanif, vicepresidente de Productos para Creadores de YouTube, en relación con la ubicación de la etiqueta. «Podría tratarse de una caricatura generada por IA, por ejemplo. Utilizamos nuestro criterio para decidir qué categorías podrían beneficiarse de un aviso legal muy visible».

YouTube no ha revelado el número exacto de eliminaciones de deepfakes generados por IA facilitadas por esta tecnología desde su lanzamiento a los creadores, pero señala que el volumen eliminado hasta ahora ha sido «mínimo».

«Para muchos creadores, la principal ventaja ha sido una mayor concienciación sobre lo que se sube. El número real de solicitudes de retirada sigue siendo muy bajo, ya que la mayor parte del contenido es bastante inofensivo o incluso complementario a su canal», afirmó Hanif.

Esta dinámica puede ser diferente en el caso de los deepfakes dirigidos a funcionarios del Gobierno, políticos o periodistas.

De cara al futuro, YouTube pretende ampliar su tecnología de detección de deepfakes para abarcar otras áreas, incluyendo voces reconocibles y propiedad intelectual, como personajes de ficción populares.