YouTube va marquer automatiquement les vidéos générées par l'IA

À mesure que les modèles vidéo basés sur l'IA gagnent en sophistication, YouTube ne se contente plus de compter uniquement sur les créateurs pour signaler les contenus générés par l'IA : la plateforme va désormais étiqueter automatiquement ces vidéos de son propre chef. L'entreprise a annoncé mercredi que ses systèmes internes apporteraient des étiquettes dès qu'ils détecteraient l'utilisation d'une « IA photoréaliste significative ».

YouTube rend également ses étiquettes d’IA plus visibles, afin qu’elles soient plus faciles à repérer aussi bien dans les vidéos longues que dans les YouTube Shorts.

Les étiquettes d’IA sont en place sur la plateforme depuis plus de deux ans, depuis que YouTube a mis à jour ses politiques en matière d’IA et a introduit un outil dans Creator Studio obligeant les créateurs à signaler les vidéos contenant du contenu généré par l’IA susceptible d’être confondu avec une personne, un lieu ou un événement réel. Les vidéos représentant clairement des scénarios animés ou imaginaires — comme une licorne caracolant dans un monde fantastique — n’avaient pas besoin d’être étiquetées.

L’entreprise précise que sa politique en matière d’étiquetage IA n’a pas changé, mais qu’elle jouera un rôle plus actif dans la surveillance des contenus sur sa plateforme. Cette initiative fait suite au lancement par Google de Gemini Omni, une nouvelle famille de modèles d’IA multimodaux présentée lors de sa conférence des développeurs Google I/O la semaine dernière, capable de produire des vidéos de haute qualité démontrant une compréhension de la physique, de la culture, de l’histoire et des sciences.

À partir du mois de mai, YouTube indique qu’il utilisera de nouveaux signaux internes pour aider à identifier les contenus générés par l’IA et les étiqueter en conséquence. Cela ne dispense pas les créateurs de leur obligation de signaler leur utilisation de l’IA — mais s’ils ne le font pas, YouTube appliquera l’étiquette à leur place.

Les créateurs dont le contenu a été mal identifié pourront mettre à jour le statut de divulgation sur une vidéo YouTube, mais ils ne pourront pas supprimer les étiquettes si le contenu a été créé à l’aide des propres outils d’IA de YouTube, tels que Veo ou Dream Screen, selon la société.

Les mentions seront également associées de manière permanente aux vidéos lorsque le contenu inclut des métadonnées C2PA indiquant qu’il a été entièrement généré par l’IA. (Récemment, OpenAI s’est joint à Nvidia, Kakao et Eleven Labs pour s’engager à respecter la norme C2PA.)

L’ajout de la détection automatique par IA intervient peu après que YouTube a étendu sa détection des deepfakes par IA, qui permet désormais à tout adulte d’effectuer une recherche spécifique sur YouTube pour repérer les correspondances de visages, à la suite de tests initiaux menés avec des célébrités, des personnalités publiques, des responsables politiques et d’autres créateurs.

YouTube indique également qu’il rendra ses étiquettes d’IA plus cohérentes et plus visibles.

Auparavant, les étiquettes apparaissaient dans la description détaillée, sauf si la vidéo abordait des sujets plus sensibles tels que la santé ou l’actualité ; dans ces cas-là, une étiquette bien visible apparaissait directement sur la vidéo elle-même.

Désormais, les mentions apparaîtront directement sous le lecteur vidéo, au-dessus de la description pour les vidéos longues, et directement sur la superposition vidéo pour les YouTube Shorts.

Crédits image : YouTube

L’entreprise explique que le déplacement de ces mentions les rendra plus visibles pour toute personne tombant sur du contenu photoréaliste, modifié par l’IA ou généré par l’IA sur le site.

En revanche, pour les vidéos générées par l’IA qui ne sont que légèrement modifiées, animées ou irréalistes — comme la licorne caracolante mentionnée plus haut —, la mention n’apparaîtra que dans la description détaillée.

Il est à noter que YouTube précise que les étiquettes « IA » n’auront aucune incidence sur la manière dont une vidéo est recommandée ni sur sa capacité à générer des revenus.

Outre la modération des contenus générés par l’IA, l’entreprise investit dans l’IA pour des fonctionnalités telles que son outil de recherche interactif « Ask YouTube », un générateur de playlists pour YouTube Music, des résumés vidéo générés par l’IA et d’autres outils de création générative basés sur l’IA.