Stimuler la transparence du contenu d'IA avec C2PA

Alors que nous continuons à intégrer l'IA dans davantage de produits et services pour stimuler la créativité et la productivité, nous nous engageons à aider les utilisateurs à comprendre comment le contenu est créé et modifié au fil du temps. Nous pensons qu'il est essentiel que les gens aient accès à ces informations, c'est pourquoi nous investissons dans des outils et des solutions innovantes comme SynthID.

Nous reconnaissons également l'importance de collaborer avec d'autres acteurs de l'industrie pour améliorer la transparence globale lorsque le contenu circule sur différentes plateformes. C'est pourquoi nous avons rejoint la Coalition pour la provenance et l'authenticité du contenu (C2PA) en tant que membre du comité directeur plus tôt cette année.

Aujourd'hui, nous sommes ravis de partager des mises à jour sur nos efforts pour développer la dernière technologie de provenance C2PA et l'intégrer dans nos produits.

Amélioration de la technologie existante pour créer des identifiants plus sécurisés

La technologie de provenance aide à clarifier si une photo a été prise avec un appareil photo, modifiée par un logiciel ou générée par l'IA. Ces informations permettent à nos utilisateurs de prendre des décisions plus éclairées concernant le contenu avec lequel ils interagissent — qu'il s'agisse de photos, de vidéos ou d'audio — et favorisent la littératie médiatique et la confiance.

En tant que membre du comité directeur de la C2PA, nous avons collaboré avec d'autres membres pour améliorer la technologie qui attache des informations de provenance au contenu. Au cours du premier semestre de cette année, Google a contribué au développement de la version 2.1 de la norme technique des Content Credentials. Cette nouvelle version offre une protection plus robuste contre une gamme plus large d'attaques de falsification, grâce à des exigences techniques plus strictes pour valider l'historique de provenance du contenu. En renforçant ces protections, nous nous assurons que les données attachées restent précises et non altérées.

Intégration de la norme C2PA dans nos produits

Dans les mois à venir, nous intégrerons cette dernière version des Content Credentials dans plusieurs de nos produits clés :

• Recherche : Si une image inclut des métadonnées C2PA, les utilisateurs peuvent utiliser notre fonctionnalité "À propos de cette image" pour vérifier si elle a été créée ou modifiée avec des outils d'IA. "À propos de cette image" fournit un contexte sur les images en ligne et est disponible dans Google Images, Lens et Circle to Search.
• Publicités : Nous commençons à intégrer les métadonnées C2PA dans nos systèmes publicitaires. Notre objectif est d'élargir cette intégration au fil du temps et d'utiliser les signaux C2PA pour aider à appliquer des politiques clés.

Nous explorons également des moyens d'afficher les informations C2PA aux spectateurs sur YouTube lorsque le contenu est capturé avec un appareil photo, et nous partagerons davantage de mises à jour à ce sujet plus tard dans l'année.

Nous veillerons à ce que nos implémentations valident le contenu par rapport à la liste de confiance C2PA à venir, qui aide les plateformes à confirmer l'origine du contenu. Par exemple, si les données indiquent qu'une image a été prise par un modèle d'appareil photo spécifique, la liste de confiance aide à vérifier l'exactitude de cette information.

Ce ne sont que quelques exemples de la manière dont nous mettons en œuvre la technologie de provenance du contenu aujourd'hui, et nous continuerons à étendre son utilisation à davantage de produits au fil du temps.

Poursuite des partenariats avec d'autres acteurs de l'industrie

Établir et signaler la provenance du contenu est un défi complexe, avec diverses considérations selon le produit ou le service. Bien qu'il n'existe pas de solution universelle pour tout le contenu en ligne, collaborer avec d'autres acteurs de l'industrie est crucial pour créer des solutions durables et interopérables. C'est pourquoi nous encourageons davantage de services et de fournisseurs de matériel à adopter les Content Credentials de la C2PA.

Notre travail avec la C2PA s'aligne avec notre approche plus large de la transparence et du développement responsable de l'IA. Par exemple, nous étendons l'utilisation de SynthID — le filigrane intégré de Google DeepMind — à d'autres outils d'IA générative pour la création de contenu et divers types de médias, y compris le texte, l'audio, le visuel et la vidéo. Nous avons également rejoint plusieurs autres coalitions et groupes axés sur la sécurité et la recherche en IA, introduit un cadre d'IA sécurisée (SAIF) et une coalition, et continuons à progresser sur les engagements volontaires que nous avons pris à la Maison Blanche l'année dernière.