YouTube expande su tecnología de detección de 'semejanza', que detecta las falsificaciones de IA, a un puñado de creadores principales

El miércoles, YouTube dio un paso significativo en la gestión de contenido generado por IA al expandir su programa piloto. Esta iniciativa tiene como objetivo identificar y manejar contenido que utiliza la "semejanza", como el rostro, de creadores, artistas y otras figuras destacadas. Junto a esto, YouTube respaldó públicamente la NO FAKES ACT, una legislación diseñada para combatir la creación de réplicas generadas por IA engañosas y perjudiciales que simulan la imagen o voz de alguien.

YouTube ha estado activamente involucrado en la configuración de la NO FAKES ACT, colaborando con sus patrocinadores, los senadores Chris Coons (D-DE) y Marsha Blackburn (R-TN), así como con gigantes de la industria como la Recording Industry Association of America (RIAA) y la Motion Picture Association (MPA). La reintroducción de la legislación será anunciada por Coons y Blackburn en una conferencia de prensa el mismo día.

En una publicación de blog detallada, YouTube explicó sus razones para apoyar la ley. Aunque reconoció el potencial de la IA para revolucionar la expresión creativa, la compañía también destacó los riesgos, como la posibilidad de mal uso y la creación de contenido perjudicial. "Las plataformas tienen la responsabilidad de abordar estos desafíos de manera proactiva", enfatizó la publicación.

YouTube elogió la NO FAKES ACT por su enfoque para equilibrar la protección con la innovación. "La NO FAKES ACT ofrece un camino inteligente hacia adelante porque se centra en la mejor manera de equilibrar la protección con la innovación: otorgando poder directamente a los individuos para notificar a las plataformas sobre semejanzas generadas por IA que creen que deberían ser eliminadas", afirmó la compañía. Este proceso de notificación es crucial, ya que permite a las plataformas diferenciar entre contenido autorizado y falsificaciones perjudiciales, facilitando una toma de decisiones más informada.

Sistema de Detección de Semejanzas de YouTube

Los esfuerzos de YouTube en esta área comenzaron con la introducción de su sistema de detección de semejanzas en colaboración con la Creative Artists Agency (CAA) en diciembre de 2024. Esta nueva tecnología es una extensión del sistema Content ID existente de YouTube, que identifica material protegido por derechos de autor en videos subidos. El programa de detección de semejanzas funciona de manera similar para identificar automáticamente contenido que viola las políticas, enfocándose específicamente en rostros o voces generados por IA.

Programa Piloto y Probadores Iniciales

Por primera vez, YouTube reveló la lista de probadores iniciales del programa piloto. Estos incluyen creadores prominentes de YouTube como MrBeast, Mark Rober, Doctor Mike, el Flow Podcast, Marques Brownlee y Estude Matemática. Durante la fase de prueba, YouTube colaborará con estos creadores para mejorar la tecnología y refinar sus controles. La compañía planea expandir el programa para incluir a más creadores durante el próximo año, aunque no especificó un cronograma para un lanzamiento público más amplio.

Además del piloto, YouTube ha actualizado su proceso de privacidad para permitir que los individuos soliciten la eliminación de contenido alterado o sintético que simule su semejanza. Además, la plataforma ha introducido herramientas de gestión de semejanzas que ayudan a los usuarios a detectar y controlar cómo se utiliza la IA para representarlos en YouTube.