YouTube expande su tecnología de detección de 'semejanza', que detecta las falsificaciones de IA, a un puñado de creadores principales

El miércoles, YouTube dio un paso significativo en la gestión de contenido generado por IA al expandir su programa piloto. Esta iniciativa tiene como objetivo identificar y manejar el contenido que usa la "semejanza", como la cara, los creadores, artistas y otras figuras notables. Junto a esto, YouTube respaldó públicamente la Ley No falsas, una legislación diseñada para combatir la creación de réplicas engañosas y dañinas generadas por IA que simulan la imagen o la voz de alguien.

YouTube ha participado activamente en la configuración de la Ley No Fakes, colaborando con sus patrocinadores, los senadores Chris Coons (D-de) y Marsha Blackburn (R-TN), así como gigantes de la industria como la Asociación de la Industria de Grabación de América (RIAA) y la Asociación Película (MPA). La reintroducción de la legislación será anunciada por Coons y Blackburn en una conferencia de prensa el mismo día.

En una publicación de blog detallada, YouTube describió sus razones para apoyar el acto. Si bien reconoce el potencial de AI para revolucionar la expresión creativa, la compañía también destacó los riesgos, como el potencial de mal uso y la creación de contenido dañino. "Las plataformas tienen la responsabilidad de abordar estos desafíos de manera proactiva", enfatizó la publicación.

YouTube elogió la Ley No Fakes por su enfoque para equilibrar la protección con la innovación. "La Ley No Fakes proporciona un camino inteligente hacia adelante porque se centra en la mejor manera de equilibrar la protección con la innovación: poner el poder directamente en manos de las personas para notificar a las plataformas de las semejanzas generadas por IA que creen que debería caer", dijo la compañía. Este proceso de notificación es crucial, ya que permite a las plataformas diferenciar entre el contenido autorizado y las falsificaciones dañinas, lo que permite una toma de decisiones más informada.

Sistema de detección de semejanzas de YouTube

Los esfuerzos de YouTube en esta área comenzaron con la introducción de su sistema de detección de semejanzas en asociación con la Agencia de Artistas Creativos (CAA) en diciembre de 2024. Esta nueva tecnología es una extensión del sistema de identificación de contenido existente de YouTube, que identifica material protegido por derechos de autor en videos cargados. El programa de detección de semejanzas funciona de manera similar para identificar automáticamente el contenido que viola las políticas, enfocándose específicamente en caras o voces generadas por IA.

Programa piloto y probadores iniciales

Por primera vez, YouTube reveló la lista de probadores piloto iniciales para el programa. Estos incluyen creadores prominentes de YouTube como MrBeast, Mark Rober, Doctor Mike, The Flow Podcast, Marques Brownlee y Estude Matemática. Durante la fase de prueba, YouTube colaborará con estos creadores para mejorar la tecnología y refinar sus controles. La compañía planea expandir el programa para incluir más creadores durante el próximo año, aunque no especificó una línea de tiempo para un lanzamiento público más amplio.

Además del piloto, YouTube ha actualizado su proceso de privacidad para permitir a las personas solicitar la eliminación de contenido alterado o sintético que simula su semejanza. Además, la plataforma ha introducido herramientas de gestión de semejanzas que ayudan a los usuarios a detectar y controlar cómo se usa la IA para representarlas en YouTube.