Operai facilita las restricciones de creación de imágenes de Chatgpt

Esta semana, OpenAI presentó un nuevo generador de imágenes para ChatGPT que rápidamente ganó popularidad debido a su capacidad para producir imágenes inspiradas en Studio Ghibli. Pero más allá de las encantadoras ilustraciones, la introducción del generador de imágenes nativo de GPT-4o marca una mejora significativa en las capacidades de ChatGPT, incluyendo una mejor edición de imágenes, representación de texto y representación espacial.

Sin embargo, uno de los cambios más llamativos que OpenAI implementó esta semana se refiere a sus políticas de moderación de contenido. Estas políticas actualizadas ahora permiten a ChatGPT generar imágenes de figuras públicas, símbolos de odio y características raciales bajo demanda, un cambio respecto a su postura anterior de rechazo absoluto.

Según una publicación de blog de la líder de comportamiento del modelo de OpenAI, Joanne Jang, publicada el jueves, la compañía ha "evolucionado" en su enfoque. Jang explicó: “Estamos pasando de rechazos generales en áreas sensibles a un enfoque más preciso centrado en prevenir daños en el mundo real. El objetivo es abrazar la humildad: reconocer cuánto no sabemos y posicionarnos para adaptarnos a medida que aprendemos.”

Estos cambios parecen alinearse con la estrategia más amplia de OpenAI para "descensurar" ChatGPT. En febrero, la compañía anunció planes para modificar sus métodos de entrenamiento del modelo de IA, con el objetivo de permitir que ChatGPT maneje más solicitudes, proporcione perspectivas diversas y minimice los temas que se niega a abordar.

Bajo la nueva política, ChatGPT ahora puede crear y alterar imágenes de figuras públicas como Donald Trump y Elon Musk, que anteriormente estaban prohibidas. Jang enfatizó que OpenAI no quiere dictar quién debe o no debe ser representado por ChatGPT, ofreciendo una opción de exclusión para aquellos que prefieren no ser incluidos.

En un documento técnico publicado el martes, OpenAI también indicó que permitirá a los usuarios generar imágenes de símbolos de odio, como esvásticas, en contextos educativos o neutrales, siempre que no promuevan agendas extremistas.

Además, OpenAI está redefiniendo qué constituye contenido "ofensivo". Anteriormente, ChatGPT rechazaba prompts sobre características físicas, como solicitudes para "hacer que los ojos de esta persona parezcan más asiáticos" o "hacer que esta persona sea más pesada". Nuestras pruebas en TechCrunch revelaron que el nuevo generador de imágenes de ChatGPT ahora cumple con este tipo de solicitudes.

Asimismo, aunque ChatGPT ahora puede imitar los estilos de estudios creativos como Pixar o Studio Ghibli, aún se abstiene de imitar los estilos de artistas vivos, lo que podría reavivar los debates sobre el uso de material protegido por derechos de autor en los datos de entrenamiento de IA.

Es importante destacar que OpenAI no está eliminando por completo todas las salvaguardas. El generador de imágenes nativo de GPT-4o aún rechaza muchas consultas sensibles y tiene protecciones más estrictas en torno a la generación de imágenes de niños que su predecesor, DALL-E 3, como se detalla en el documento técnico de GPT-4o.

Esta relajación de las barreras de protección llega tras años de críticas de círculos conservadores sobre la supuesta "censura" de IA por parte de empresas de Silicon Valley. Google, por ejemplo, enfrentó críticas por su generador de imágenes Gemini AI, que produjo imágenes multirraciales históricamente inexactas para consultas como "padres fundadores de EE. UU." y "soldados alemanes en la Segunda Guerra Mundial".

La guerra cultural en curso en torno a la moderación de contenido de IA puede estar llegando a un punto crítico. A principios de este mes, el congresista republicano Jim Jordan cuestionó a OpenAI, Google y otras empresas tecnológicas sobre una posible colusión con la administración Biden para censurar contenido generado por IA.

En una declaración anterior a TechCrunch, OpenAI negó que los cambios en la moderación de contenido fueran políticamente motivados. En cambio, la compañía sostiene que estos cambios reflejan una "creencia de larga data en dar a los usuarios más control", y su tecnología ahora está lo suficientemente avanzada como para manejar temas sensibles de manera responsable.

Independientemente de las motivaciones detrás de estos cambios, el momento parece oportuno, considerando el potencial para un escrutinio regulatorio bajo la administración Trump. Otros gigantes tecnológicos como Meta y X también han adoptado políticas similares, permitiendo temas más controvertidos en sus plataformas.

Aunque el nuevo generador de imágenes de OpenAI hasta ahora solo ha generado algunos memes virales de Studio Ghibli, las implicaciones a largo plazo de estos cambios en las políticas aún son inciertas. Los recientes cambios de ChatGPT podrían alinearse bien con las opiniones de la administración Trump, pero permitir que un chatbot de IA aborde preguntas sensibles podría pronto poner a OpenAI en una posición desafiante.

El momento viral de Studio Ghibli de OpenAI destaca preocupaciones sobre derechos de autor en IA

La función de generación de imágenes de ChatGPT recibe una mejora