OpenAI facilita la verificación de imágenes generadas por IA

A medida que los generadores de imágenes basados en IA se generalizan y se vuelven cada vez más sofisticados en Internet, distinguir las imágenes reales de las falsas nunca ha sido tan complicado. El martes, OpenAI presentó dos nuevas medidas para abordar este problema.
La empresa ha adoptado el estándar abierto C2PA, que incorpora una señal clara en los metadatos que indica que una imagen ha sido generada por IA. Además, OpenAI está colaborando con Google para incorporar una marca de agua invisible denominada SynthID, diseñada para ser más difícil de detectar y aún más difícil de eliminar en caso de que actores malintencionados intenten borrar sus huellas.
Estas medidas de protección se aplican actualmente solo a las imágenes generadas por los propios productos de OpenAI, por lo que no frenarán la avalancha de imágenes procedentes de herramientas de IA de menor reputación. Sin embargo, ayudan a garantizar que la propia OpenAI no contribuya al problema.
OpenAI también ha presentado una versión preliminar de una herramienta de verificación pública que comprueba ambas señales, lo que permite a los usuarios comprobar fácilmente si una imagen ha sido generada por IA. Inicialmente, la herramienta solo funcionará con imágenes creadas por productos de OpenAI, pero la empresa espera ampliarla con el tiempo a otras herramientas.
La Coalición para la Procedencia y la Autenticidad de los Contenidos (C2PA), fundada en 2021, es una organización sin ánimo de lucro centrada en reducir el impacto perjudicial de las imágenes generadas por IA en el discurso público. El estándar C2PA ha sido adoptado por varios productos de Google, pero su adopción en todo el sector sigue siendo irregular. Dado que la señal C2PA es fácilmente accesible en los metadatos de cada archivo, puede ser manipulada, por lo que resulta más eficaz entre usuarios de confianza.
SynthID es una iniciativa más reciente diseñada para ofrecer una defensa más sólida contra la manipulación. Desarrollada por Google, la marca de agua SynthID está diseñada para persistir incluso cuando actores malintencionados intentan eliminarla mediante capturas de pantalla, cambios de tamaño o manipulación digital.
Ambos sistemas están pensados para complementarse mutuamente, de modo que cada uno subsana las limitaciones del otro.
«La marca de agua es más resistente a transformaciones como las capturas de pantalla, mientras que los metadatos pueden proporcionar información más detallada que una marca de agua por sí sola», señaló OpenAI en su comunicado. «Juntos, hacen que la procedencia sea más resistente de lo que lo sería cualquiera de las dos capas por sí sola».
Artículo relacionado
ChatGPT ahora envía mensajes a través del nuevo complemento de Apple Messages
Si alguna vez has querido compartir todas tus conversaciones digitales con OpenAI, tenemos buenas noticias para ti: El laboratorio de IA acaba de lanzar un complemento de Apple Messages para ChatGPT, permitiendo a los usuarios interesados conectar su
Robby Stein, de Google, participará en el TechCrunch Disrupt 2026
Conseguir el impulso inicial para un nuevo producto es difícil, pero transformar una aplicación que utilizan miles de millones de personas es un reto completamente diferente. El objetivo sigue siendo
Las agencias sanitarias estadounidenses evalúan los modelos de IA de OpenAI y Anthropic
Las agencias de salud pública de todo el país se disponen a evaluar la IA generativa a través de una nueva iniciativa liderada por la Coalición para la IA en la Salud, en colaboración con OpenAI, Anth
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

A medida que los generadores de imágenes basados en IA se generalizan y se vuelven cada vez más sofisticados en Internet, distinguir las imágenes reales de las falsas nunca ha sido tan complicado. El martes, OpenAI presentó dos nuevas medidas para abordar este problema.
La empresa ha adoptado el estándar abierto C2PA, que incorpora una señal clara en los metadatos que indica que una imagen ha sido generada por IA. Además, OpenAI está colaborando con Google para incorporar una marca de agua invisible denominada SynthID, diseñada para ser más difícil de detectar y aún más difícil de eliminar en caso de que actores malintencionados intenten borrar sus huellas.
Estas medidas de protección se aplican actualmente solo a las imágenes generadas por los propios productos de OpenAI, por lo que no frenarán la avalancha de imágenes procedentes de herramientas de IA de menor reputación. Sin embargo, ayudan a garantizar que la propia OpenAI no contribuya al problema.
OpenAI también ha presentado una versión preliminar de una herramienta de verificación pública que comprueba ambas señales, lo que permite a los usuarios comprobar fácilmente si una imagen ha sido generada por IA. Inicialmente, la herramienta solo funcionará con imágenes creadas por productos de OpenAI, pero la empresa espera ampliarla con el tiempo a otras herramientas.
La Coalición para la Procedencia y la Autenticidad de los Contenidos (C2PA), fundada en 2021, es una organización sin ánimo de lucro centrada en reducir el impacto perjudicial de las imágenes generadas por IA en el discurso público. El estándar C2PA ha sido adoptado por varios productos de Google, pero su adopción en todo el sector sigue siendo irregular. Dado que la señal C2PA es fácilmente accesible en los metadatos de cada archivo, puede ser manipulada, por lo que resulta más eficaz entre usuarios de confianza.
SynthID es una iniciativa más reciente diseñada para ofrecer una defensa más sólida contra la manipulación. Desarrollada por Google, la marca de agua SynthID está diseñada para persistir incluso cuando actores malintencionados intentan eliminarla mediante capturas de pantalla, cambios de tamaño o manipulación digital.
Ambos sistemas están pensados para complementarse mutuamente, de modo que cada uno subsana las limitaciones del otro.
«La marca de agua es más resistente a transformaciones como las capturas de pantalla, mientras que los metadatos pueden proporcionar información más detallada que una marca de agua por sí sola», señaló OpenAI en su comunicado. «Juntos, hacen que la procedencia sea más resistente de lo que lo sería cualquiera de las dos capas por sí sola».
ChatGPT ahora envía mensajes a través del nuevo complemento de Apple Messages
Si alguna vez has querido compartir todas tus conversaciones digitales con OpenAI, tenemos buenas noticias para ti: El laboratorio de IA acaba de lanzar un complemento de Apple Messages para ChatGPT, permitiendo a los usuarios interesados conectar su
Robby Stein, de Google, participará en el TechCrunch Disrupt 2026
Conseguir el impulso inicial para un nuevo producto es difícil, pero transformar una aplicación que utilizan miles de millones de personas es un reto completamente diferente. El objetivo sigue siendo
Las agencias sanitarias estadounidenses evalúan los modelos de IA de OpenAI y Anthropic
Las agencias de salud pública de todo el país se disponen a evaluar la IA generativa a través de una nueva iniciativa liderada por la Coalición para la IA en la Salud, en colaboración con OpenAI, Anth





Hogar






