O YouTube expande sua tecnologia de detecção de 'semelhança', que detecta AI Fakes, para um punhado de principais criadores

Na quarta-feira, o YouTube deu um passo significativo no gerenciamento de conteúdo gerado pela IA, expandindo seu programa piloto. Essa iniciativa visa identificar e lidar com conteúdo que usa a "semelhança", como o rosto, os criadores, artistas e outras figuras notáveis. Além disso, o YouTube endossou publicamente a Lei No Fakes, uma peça de legislação projetada para combater a criação de réplicas enganosas e geradas por IA que simulam a imagem ou a voz de alguém.

O YouTube esteve ativamente envolvido na formação da Lei No Fakes, colaborando com seus patrocinadores, os senadores Chris Coons (D-DE) e Marsha Blackburn (R-TN), bem como gigantes da indústria como a Associação da Indústria de Gravação da América (RIAA) e a Associação de Motões (MPA). A reintrodução da legislação será anunciada por Coons e Blackburn em uma conferência de imprensa no mesmo dia.

Em uma postagem detalhada do blog, o YouTube descreveu seus motivos para apoiar a lei. Embora reconheça o potencial da IA ​​de revolucionar a expressão criativa, a empresa também destacou os riscos, como o potencial de uso indevido e a criação de conteúdo nocivo. "As plataformas têm a responsabilidade de enfrentar esses desafios proativamente", enfatizou o post.

O YouTube elogiou a Lei No Fakes por sua abordagem para equilibrar proteção com inovação. "A Lei No Fakes fornece um caminho inteligente a seguir, porque se concentra na melhor maneira de equilibrar a proteção com a inovação: colocar o poder diretamente nas mãos dos indivíduos para notificar plataformas de semelhanças geradas pela IA que eles acreditam que deveria cair", afirmou a empresa. Esse processo de notificação é crucial, pois permite que as plataformas diferenciem entre conteúdo autorizado e falsificações prejudiciais, permitindo a tomada de decisão mais informada.

Sistema de detecção de semelhança do YouTube

Os esforços do YouTube nessa área começaram com a introdução de seu sistema de detecção de semelhança em parceria com a Creative Artists Agency (CAA) em dezembro de 2024. Essa nova tecnologia é uma extensão do sistema de identificação de conteúdo existente do YouTube, que identifica o material protegido por direitos autorais em vídeos enviados. O programa de detecção de semelhança funciona da mesma forma para identificar automaticamente o conteúdo que viola as políticas, concentrando-se especificamente em faces ou vozes geradas pela IA.

Programa piloto e testadores iniciais

Pela primeira vez, o YouTube divulgou a lista de testadores piloto iniciais para o programa. Isso inclui criadores proeminentes do YouTube, como Mrbeast, Mark Rober, Doutor Mike, The Flow Podcast, Marques Brownlee e Estude Matemática. Durante a fase de teste, o YouTube colaborará com esses criadores para aprimorar a tecnologia e refinar seus controles. A empresa planeja expandir o programa para incluir mais criadores no próximo ano, embora não tenha especificado uma linha do tempo para um lançamento público mais amplo.

Além do piloto, o YouTube atualizou seu processo de privacidade para permitir que os indivíduos solicitem a remoção de conteúdo alterado ou sintético que simula sua semelhança. Além disso, a plataforma introduziu ferramentas de gerenciamento de semelhança que ajudam os usuários a detectar e controlar como a IA é usada para representá -las no YouTube.