YouTube renforce ses mesures de protection contre les deepfakes générés par l'IA pour les personnalités politiques, les responsables publics et les journalistes

YouTube étend l'accès à sa technologie de détection d'images à son effigie, conçue pour identifier les deepfakes générés par l'IA, dans le cadre d'un programme pilote destiné aux responsables gouvernementaux, aux candidats politiques et aux journalistes, a annoncé mardi la société. Les participants à ce programme pilote pourront utiliser un outil permettant de repérer les contenus non autorisés générés par l'IA et représentant leur image, et demander leur suppression si ceux-ci enfreignent les règles de YouTube.

Cette technologie a été initialement déployée l'année dernière auprès d'environ 4 millions de créateurs participant au Programme Partenaires de YouTube, dans le prolongement de tests antérieurs.

Fonctionnant de manière similaire au système Content ID de YouTube pour les contenus protégés par le droit d'auteur, cette fonctionnalité de détection de ressemblance recherche les visages simulés par l'IA. Ces outils d'IA sont parfois utilisés pour diffuser de fausses informations en créant des deepfakes convaincants de personnalités publiques — telles que des politiciens ou des responsables — les montrant en train de dire ou de faire des choses qui ne se sont jamais produites.

À travers ce nouveau projet pilote, YouTube cherche à trouver un équilibre entre la protection de la liberté d'expression et la gestion des risques posés par la technologie IA capable de produire des imitations réalistes de personnalités publiques.

« Cette extension vise avant tout à préserver l'intégrité du débat public », a déclaré Leslie Miller, vice-présidente des affaires gouvernementales et des politiques publiques chez YouTube, lors d'une conférence de presse. « Nous reconnaissons les risques accrus liés à l'usurpation d'identité par l'IA pour les personnes occupant des fonctions civiques. Tout en offrant cette nouvelle protection, nous la mettons en œuvre avec la plus grande prudence », a-t-elle ajouté.

Crédits image :YouTube

Mme Miller a précisé que toutes les correspondances détectées ne seraient pas automatiquement supprimées sur simple demande. YouTube évaluera chaque cas au regard de sa politique de confidentialité existante afin de déterminer si le contenu relève d’une expression protégée, telle que la parodie ou la critique politique.

La société a également exprimé son soutien aux mesures de protection au niveau fédéral, en approuvant des projets de loi tels que le NO FAKES Act proposé à Washington, D.C., qui vise à réglementer la reproduction non autorisée par l'IA de la voix et de l'image d'une personne.

Les testeurs éligibles au programme pilote doivent vérifier leur identité en fournissant un selfie et une pièce d'identité officielle pour utiliser l'outil. Ils peuvent ensuite créer un profil, examiner les correspondances détectées et choisir de demander leur suppression. YouTube prévoit à terme de permettre aux utilisateurs de bloquer les contenus contrevenants avant leur publication ou, éventuellement, de revendiquer des droits de monétisation, à l'instar de la fonctionnalité de son système Content ID.

YouTube n'a pas divulgué les noms des personnes incluses dans le groupe pilote initial, mais a indiqué que l'objectif était de rendre cette technologie largement accessible à l'avenir.

Crédits image :YouTube

Les vidéos identifiées comme générées par l'IA porteront une étiquette, bien que son emplacement varie. Pour certains contenus, l'étiquette apparaîtra dans la description de la vidéo, tandis que les vidéos traitant de « sujets plus sensibles » comporteront une étiquette plus visible directement sur le lecteur vidéo. Cette approche est cohérente avec l'étiquetage appliqué par YouTube à tous les contenus générés par l'IA.

« Une quantité importante de contenu est produite à l'aide de l'IA, mais ce fait n'est pas toujours au cœur de l'objectif du contenu », a expliqué Amjad Hanif, vice-président des produits pour les créateurs chez YouTube, à propos de l'emplacement de la mention. « Il pourrait s'agir d'un dessin animé généré par l'IA, par exemple. Nous faisons appel à notre jugement pour décider quelles catégories pourraient bénéficier d'une mention clairement visible. »

YouTube n'a pas divulgué le nombre exact de suppressions de deepfakes générés par l'IA facilitées par cette technologie depuis sa mise à disposition des créateurs, mais note que le volume supprimé jusqu'à présent a été « minime ».

« Pour de nombreux créateurs, le principal avantage a été une meilleure prise de conscience de ce qui est mis en ligne. Le nombre réel de demandes de retrait reste très faible, car la plupart des contenus sont assez inoffensifs, voire complémentaires à leur chaîne », a déclaré M. Hanif.

Cette dynamique peut être différente pour les deepfakes ciblant des responsables gouvernementaux, des politiciens ou des journalistes.

À l’avenir, YouTube vise à étendre sa technologie de détection des deepfakes à d’autres domaines, notamment les voix reconnaissables et la propriété intellectuelle, comme les personnages de fiction populaires.