YouTube étend sa détection des deepfakes par IA aux personnalités politiques, aux responsables gouvernementaux et aux journalistes

Mardi, YouTube a annoncé qu’il étendait sa technologie de détection des deepfakes à un groupe restreint de responsables gouvernementaux, de candidats politiques et de journalistes. Cet outil identifie les images générées par l’IA et permet aux participants au programme pilote de demander le retrait de contenus non autorisés qu’ils estiment contraires aux règles de YouTube.

Le système de détection a été lancé pour la première fois l'année dernière auprès d'environ 4 millions de créateurs participant au Programme Partenaires YouTube, après plusieurs phases de test.

À l'instar du système Content ID existant de YouTube pour les contenus protégés par le droit d'auteur, la fonctionnalité de détection des ressemblances identifie les visages simulés par l'IA. Ces représentations synthétiques sont parfois utilisées pour diffuser de fausses informations et déformer la réalité en faisant croire que des personnalités de premier plan disent ou font des choses qu'elles n'ont jamais faites dans la vie réelle.

Avec ce programme pilote, YouTube vise à trouver un équilibre entre la liberté d’expression et les risques liés à la technologie IA, capable de produire des ressemblances convaincantes de personnalités publiques.

« Cette extension vise avant tout à protéger l’intégrité du débat public », a déclaré Leslie Miller, vice-présidente des affaires gouvernementales et des politiques publiques chez YouTube, lors d’une conférence de presse précédant l’annonce de mardi. « Nous reconnaissons que l’usurpation d’identité par l’IA présente des risques particulièrement élevés pour les acteurs de la société civile. Mais si nous mettons en place cette nouvelle mesure de protection, nous l’appliquons également avec prudence », a-t-elle ajouté.

Crédit image : YouTube

Mme Miller a expliqué que toutes les correspondances détectées ne seraient pas supprimées sur simple demande. Au contraire, YouTube évaluera chaque demande au regard de sa politique de confidentialité existante afin de déterminer si le contenu relève de la parodie ou de la critique politique, deux formes d’expression libre protégées.

La société plaide également en faveur de protections fédérales, en soutenant le NO FAKES Act à Washington, D.C., qui réglementerait les recréations non autorisées générées par l’IA de la voix et de l’image d’une personne.

Les testeurs éligibles doivent vérifier leur identité en téléchargeant un selfie et une pièce d’identité officielle avant d’utiliser l’outil. Une fois approuvés, ils peuvent créer un profil, examiner les correspondances détectées et demander leur suppression si nécessaire. YouTube prévoit à terme de permettre aux utilisateurs de bloquer les contenus contrevenants avant leur mise en ligne ou de monétiser potentiellement ces vidéos, à l’instar du fonctionnement de Content ID.

YouTube a refusé de nommer des personnalités politiques ou des responsables spécifiques faisant partie du groupe de testeurs initial, mais a déclaré que l'objectif était de rendre cette technologie largement accessible au fil du temps.

Crédit image : YouTube

Les vidéos générées par l'IA porteront des étiquettes indiquant leur origine synthétique, bien que leur emplacement varie. Pour la plupart des contenus, l'étiquette apparaît dans la description de la vidéo. Pour les sujets plus sensibles, l'étiquette est affichée de manière bien visible avant la lecture de la vidéo. Cette approche reflète la politique générale de YouTube pour tous les contenus générés par l'IA.

« Beaucoup de contenu est produit à l’aide de l’IA, mais cette distinction n’est pas toujours pertinente pour le contenu lui-même », a expliqué Amjad Hanif, vice-président des produits pour les créateurs chez YouTube, au sujet de l’emplacement des étiquettes. « Un dessin animé généré par l’IA, par exemple, est différent d’un contenu qui pourrait nécessiter une mention plus visible. Le contexte a son importance », a-t-il déclaré.

YouTube n’a pas révélé combien de suppressions de deepfakes ont été traitées via son outil destiné aux créateurs, mais a noté que le volume était jusqu’à présent « très faible ».

« Pour la plupart des créateurs, l’outil a surtout permis de mieux faire prendre conscience de ce qui est produit. Les demandes de retrait effectives sont extrêmement rares, car la plupart des contenus détectés s’avèrent inoffensifs, voire bénéfiques pour leur activité », a déclaré M. Hanif.

Ce n’est peut-être pas le cas pour les deepfakes mettant en scène des responsables gouvernementaux, des politiciens ou des journalistes.

À l’avenir, YouTube prévoit d’étendre sa technologie de détection des deepfakes à d’autres domaines, notamment les voix reconnaissables et la propriété intellectuelle, comme les personnages populaires.