O YouTube expande sua tecnologia de detecção de 'semelhança', que detecta AI Fakes, para um punhado de principais criadores

Na quarta-feira, o YouTube deu um passo significativo na gestão de conteúdo gerado por IA ao expandir seu programa piloto. Esta iniciativa visa identificar e gerenciar conteúdo que utiliza a "semelhança", como o rosto, de criadores, artistas e outras figuras notáveis. Junto a isso, o YouTube endossou publicamente a Lei NO FAKES, uma legislação projetada para combater a criação de réplicas geradas por IA enganosas e prejudiciais que simulam a imagem ou voz de alguém.

O YouTube tem se envolvido ativamente na formulação da Lei NO FAKES, colaborando com seus patrocinadores, os senadores Chris Coons (D-DE) e Marsha Blackburn (R-TN), bem como gigantes da indústria como a Recording Industry Association of America (RIAA) e a Motion Picture Association (MPA). A reintrodução da legislação será anunciada por Coons e Blackburn em uma coletiva de imprensa no mesmo dia.

Em um post de blog detalhado, o YouTube delineou suas razões para apoiar a lei. Embora reconheça o potencial da IA para revolucionar a expressão criativa, a empresa também destacou os riscos, como a possibilidade de uso indevido e a criação de conteúdo prejudicial. "As plataformas têm a responsabilidade de enfrentar esses desafios de forma proativa", enfatizou o post.

O YouTube elogiou a Lei NO FAKES por sua abordagem em equilibrar proteção com inovação. "A Lei NO FAKES oferece um caminho inteligente porque foca na melhor maneira de equilibrar proteção com inovação: colocando o poder diretamente nas mãos dos indivíduos para notificar as plataformas sobre semelhanças geradas por IA que acreditam que devem ser removidas", afirmou a empresa. Esse processo de notificação é crucial, pois permite que as plataformas diferenciem entre conteúdo autorizado e falsificações prejudiciais, possibilitando uma tomada de decisão mais informada.

Sistema de Detecção de Semelhança do YouTube

Os esforços do YouTube nessa área começaram com a introdução de seu sistema de detecção de semelhança em parceria com a Creative Artists Agency (CAA) em dezembro de 2024. Essa nova tecnologia é uma extensão do sistema Content ID existente do YouTube, que identifica material protegido por direitos autorais em vídeos enviados. O programa de detecção de semelhança trabalha de forma semelhante para identificar automaticamente conteúdos que violam políticas, focando especificamente em rostos ou vozes gerados por IA.

Programa Piloto e Testadores Iniciais

Pela primeira vez, o YouTube divulgou a lista de testadores iniciais do programa piloto. Esses incluem criadores proeminentes do YouTube, como MrBeast, Mark Rober, Doctor Mike, o Flow Podcast, Marques Brownlee e Estude Matemática. Durante a fase de testes, o YouTube colaborará com esses criadores para aprimorar a tecnologia e refinar seus controles. A empresa planeja expandir o programa para incluir mais criadores ao longo do próximo ano, embora não tenha especificado um cronograma para um lançamento público mais amplo.

Além do piloto, o YouTube atualizou seu processo de privacidade para permitir que indivíduos solicitem a remoção de conteúdo alterado ou sintético que simule sua semelhança. Além disso, a plataforma introduziu ferramentas de gerenciamento de semelhança que ajudam os usuários a detectar e controlar como a IA é usada para representá-los no YouTube.