Impulsando la transparencia del contenido de IA con C2PA

A medida que continuamos integrando la IA en más productos y servicios para impulsar la creatividad y la productividad, estamos comprometidos a ayudar a los usuarios a entender cómo se crea y modifica el contenido a lo largo del tiempo. Creemos que es esencial que las personas tengan acceso a esta información, por lo que estamos invirtiendo en herramientas y soluciones innovadoras como SynthID.

También reconocemos la importancia de colaborar con otros en la industria para mejorar la transparencia general a medida que el contenido se mueve a través de diferentes plataformas. Por eso, nos unimos a la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) como miembro del comité directivo a principios de este año.

Hoy, estamos emocionados de compartir actualizaciones sobre nuestros esfuerzos para desarrollar la última tecnología de procedencia de C2PA e integrarla en nuestros productos.

Avanzando en la tecnología existente para crear credenciales más seguras

La tecnología de procedencia ayuda a aclarar si una foto fue tomada con una cámara, editada por software o generada por IA. Esta información permite a nuestros usuarios tomar decisiones más informadas sobre el contenido con el que interactúan, ya sean fotos, videos o audio, y fomenta la alfabetización mediática y la confianza.

Como miembro del comité directivo de la C2PA, hemos colaborado con otros miembros para mejorar la tecnología que adjunta información de procedencia al contenido. Durante la primera mitad de este año, Google contribuyó al desarrollo de la versión 2.1 del estándar técnico de Credenciales de Contenido. Esta nueva versión ofrece una protección más sólida contra una gama más amplia de ataques de manipulación, gracias a requisitos técnicos más estrictos para validar el historial de procedencia del contenido. Al fortalecer estas protecciones, nos aseguramos de que los datos adjuntos permanezcan precisos y sin alteraciones.

Incorporando el estándar de C2PA en nuestros productos

En los próximos meses, integraremos esta última versión de las Credenciales de Contenido en varios de nuestros productos clave:

• Búsqueda: Si una imagen incluye metadatos de C2PA, los usuarios pueden usar nuestra función "Acerca de esta imagen" para verificar si fue creada o editada con herramientas de IA. "Acerca de esta imagen" proporciona contexto sobre las imágenes en línea y está disponible en Google Images, Lens y Circle to Search.
• Anuncios: Estamos comenzando a integrar metadatos de C2PA en nuestros sistemas de anuncios. Nuestro objetivo es expandir esta integración con el tiempo y usar señales de C2PA para ayudar a hacer cumplir políticas clave.

También estamos explorando formas de mostrar información de C2PA a los espectadores en YouTube cuando el contenido es capturado con una cámara, y compartiremos más actualizaciones sobre esto más adelante en el año.

Nos aseguraremos de que nuestras implementaciones validen el contenido contra la próxima lista de confianza de C2PA, que ayuda a las plataformas a confirmar el origen del contenido. Por ejemplo, si los datos indican que una imagen fue tomada por un modelo de cámara específico, la lista de confianza ayuda a verificar la precisión de esta información.

Estos son solo algunos ejemplos de cómo estamos implementando la tecnología de procedencia de contenido hoy, y continuaremos expandiendo su uso en más productos con el tiempo.

Continuando la colaboración con otros en la industria

Establecer y señalar la procedencia del contenido es un desafío complejo, con diversas consideraciones dependiendo del producto o servicio. Aunque no existe una solución única para todo el contenido en línea, colaborar con otros en la industria es crucial para crear soluciones sostenibles e interoperables. Por eso, estamos animando a más servicios y proveedores de hardware a adoptar las Credenciales de Contenido de C2PA.

Nuestro trabajo con la C2PA se alinea con nuestro enfoque más amplio hacia la transparencia y el desarrollo responsable de la IA. Por ejemplo, estamos expandiendo el uso de SynthID, el marcado de agua incrustado de Google DeepMind, a herramientas adicionales de IA generativa para la creación de contenido y varios tipos de medios, incluyendo texto, audio, visual y video. También nos hemos unido a varias otras coaliciones y grupos enfocados en la seguridad y la investigación de la IA, introdujimos un Marco de IA Segura (SAIF) y una coalición, y continuamos avanzando en los compromisos voluntarios que asumimos en la Casa Blanca el año pasado.