O YouTube reforça as proteções contra deepfakes baseadas em IA para políticos, autoridades e jornalistas

O YouTube está ampliando o acesso à sua tecnologia de detecção de imagens com semelhança, projetada para identificar deepfakes gerados por IA, para um programa piloto destinado a autoridades governamentais, candidatos políticos e jornalistas, anunciou a empresa na terça-feira. Os participantes desse programa piloto poderão usar uma ferramenta que identifica conteúdo não autorizado gerado por IA com sua imagem e enviar solicitações para sua remoção caso viole as políticas do YouTube.

Essa tecnologia foi inicialmente lançada no ano passado para aproximadamente 4 milhões de criadores no Programa de Parceria do YouTube, com base em testes anteriores.

Funcionando de maneira semelhante ao sistema Content ID do YouTube para materiais protegidos por direitos autorais, esse recurso de detecção de semelhança procura rostos simulados por IA. Essas ferramentas de IA são ocasionalmente exploradas para disseminar desinformação, criando deepfakes convincentes de figuras públicas — como políticos ou autoridades — retratando-as dizendo ou fazendo coisas que nunca ocorreram.

Por meio desse novo projeto-piloto, o YouTube busca encontrar um equilíbrio entre proteger a liberdade de expressão e lidar com os riscos representados pela tecnologia de IA, capaz de produzir imitações realistas de indivíduos que estão sob os holofotes.

“Essa expansão visa fundamentalmente salvaguardar a integridade do discurso público”, afirmou Leslie Miller, vice-presidente de Assuntos Governamentais e Políticas Públicas do YouTube, em uma coletiva de imprensa. “Reconhecemos os riscos elevados da falsificação por IA para aqueles que ocupam cargos públicos. Ao oferecer essa nova proteção, estamos implementando-a com muita cautela”, acrescentou ela.

Créditos da imagem:YouTube

Miller esclareceu que nem todas as correspondências detectadas serão automaticamente removidas mediante solicitação. O YouTube avaliará cada caso de acordo com sua política de privacidade existente para determinar se o conteúdo constitui expressão protegida, como paródia ou crítica política.

A empresa também declarou seu apoio a proteções em nível federal, endossando legislação como a proposta NO FAKES Act em Washington, D.C., que visa regulamentar a replicação não autorizada por IA da voz e da imagem de uma pessoa.

Os participantes elegíveis para o teste piloto devem verificar sua identidade fornecendo uma selfie e um documento de identidade emitido pelo governo para usar a ferramenta. Eles podem então criar um perfil, revisar as correspondências detectadas e optar por solicitar remoções. O YouTube planeja, eventualmente, permitir que os usuários bloqueiem conteúdos infratores antes de sua publicação ou, potencialmente, reivindiquem direitos de monetização, espelhando a funcionalidade de seu sistema Content ID.

O YouTube não divulgou os nomes específicos das pessoas incluídas no grupo piloto inicial, mas indicou que o objetivo é tornar a tecnologia amplamente disponível no futuro.

Créditos da imagem:YouTube

Vídeos identificados como gerados por IA terão uma etiqueta, embora sua localização varie. Para alguns conteúdos, a etiqueta aparecerá na descrição do vídeo, enquanto vídeos sobre “tópicos mais sensíveis” apresentarão uma etiqueta mais destacada diretamente no player de vídeo. Essa abordagem é consistente com a rotulagem do YouTube para todo o conteúdo gerado por IA.

“Uma quantidade significativa de conteúdo é produzida com IA, mas esse fato nem sempre é central para o propósito do conteúdo”, explicou Amjad Hanif, vice-presidente de Produtos para Criadores do YouTube, sobre a localização do rótulo. “Pode ser um desenho animado gerado por IA, por exemplo. Usamos nosso julgamento para decidir quais categorias podem se beneficiar de um aviso altamente visível.”

O YouTube não divulgou o número exato de remoções de deepfakes gerados por IA facilitadas por essa tecnologia desde seu lançamento para os criadores, mas observa que o volume removido até agora tem sido “mínimo”.

“Para muitos criadores, o principal benefício tem sido uma maior conscientização sobre o que está sendo enviado. O número real de solicitações de remoção permanece muito baixo, já que a maioria do conteúdo é bastante inofensiva ou até mesmo complementar ao canal deles”, disse Hanif.

Essa dinâmica pode ser diferente para deepfakes que têm como alvo autoridades governamentais, políticos ou jornalistas.

Olhando para o futuro, o YouTube pretende expandir sua tecnologia de detecção de deepfakes para abranger outras áreas, incluindo vozes reconhecíveis e propriedade intelectual, como personagens fictícios populares.