YouTube amplía la detección de deepfakes mediante IA a políticos, funcionarios públicos y periodistas

El martes, YouTube anunció que va a ampliar su tecnología de detección de deepfakes a un grupo selecto de funcionarios públicos, candidatos políticos y periodistas. La herramienta identifica las imágenes generadas por IA y permite a los participantes en la prueba solicitar la eliminación de contenidos no autorizados que consideren que infringen las políticas de YouTube.

El sistema de detección se lanzó por primera vez el año pasado para unos 4 millones de creadores del Programa de socios de YouTube tras unas fases de prueba previas.

Al igual que el sistema Content ID de YouTube para material protegido por derechos de autor, la función de detección de imágenes identificadas identifica rostros simulados por IA. Estas representaciones sintéticas se utilizan a veces para difundir desinformación y distorsionar la realidad, haciendo que figuras destacadas parezcan decir o hacer cosas que nunca hicieron en la vida real.

Con este programa piloto, YouTube pretende equilibrar la libertad de expresión con los riesgos de la tecnología de IA, que puede producir réplicas convincentes de figuras públicas.

«Esta ampliación tiene como objetivo proteger la integridad del debate público», afirmó Leslie Miller, vicepresidenta de Asuntos Gubernamentales y Políticas Públicas de YouTube, en una rueda de prensa previa al anuncio del martes. «Reconocemos que la suplantación de identidad mediante IA plantea riesgos especialmente elevados para quienes se mueven en el ámbito cívico. Pero, aunque ofrecemos esta nueva medida de protección, también la estamos aplicando con cautela», añadió.

Crédito de la imagen: YouTube

Miller explicó que no todas las coincidencias detectadas se eliminarán tras una solicitud. En su lugar, YouTube evaluará cada solicitud con arreglo a su política de privacidad vigente para determinar si el contenido puede considerarse parodia o crítica política, ambas formas protegidas de libertad de expresión.

La empresa también aboga por protecciones a nivel federal y apoya la Ley NO FAKES en Washington D. C., que regularía las recreaciones no autorizadas generadas por IA de la voz y la imagen de una persona.

Los participantes elegibles en la prueba piloto deben verificar su identidad subiendo una selfie y un documento de identidad oficial antes de utilizar la herramienta. Una vez aprobados, pueden crear un perfil, revisar las coincidencias detectadas y solicitar su eliminación si es necesario. YouTube tiene previsto permitir a los usuarios bloquear el contenido infractor antes de que se publique o, potencialmente, monetizar esos vídeos, de forma similar a como funciona Content ID.

YouTube se ha negado a nombrar a políticos o funcionarios concretos del grupo inicial de probadores, pero ha afirmado que el objetivo es que la tecnología esté ampliamente disponible con el tiempo.

Crédito de la imagen: YouTube

Los vídeos generados por IA llevarán etiquetas que indiquen su origen sintético, aunque la ubicación varía. En la mayoría de los contenidos, la etiqueta aparece en la descripción del vídeo. En el caso de temas más delicados, la etiqueta se muestra de forma destacada antes de que se reproduzca el vídeo. Este enfoque refleja la política general de YouTube para todo el contenido generado por IA.

«Se produce mucho contenido con IA, pero esa distinción no siempre es relevante para el contenido en sí», explicó Amjad Hanif, vicepresidente de Productos para Creadores de YouTube, en relación con la ubicación de la etiqueta. «Una caricatura generada por IA, por ejemplo, es diferente de un contenido que pueda necesitar un aviso legal más visible. El contexto importa», afirmó.

YouTube no ha revelado cuántas eliminaciones de deepfakes se han gestionado a través de su herramienta para creadores, pero señaló que el volumen hasta ahora ha sido «muy reducido».

«Para la mayoría de los creadores, la herramienta ha servido principalmente para concienciar sobre lo que se está produciendo. Las solicitudes de eliminación reales son extremadamente bajas porque la mayor parte del contenido detectado resulta ser inofensivo o incluso beneficioso para su negocio», dijo Hanif.

Puede que ese no sea el caso de los deepfakes de funcionarios del Gobierno, políticos o periodistas.

De cara al futuro, YouTube tiene previsto ampliar su tecnología de detección de deepfakes a otras áreas, incluyendo voces reconocibles y propiedad intelectual, como personajes populares.