Civitai fortalece las regulaciones de los defectos en medio de la presión de MasterCard y Visa

CivitAI, uno de los repositorios de modelos de IA más destacados en internet, ha realizado recientemente cambios significativos en sus políticas sobre contenido NSFW, particularmente en relación con los LoRAs de celebridades. Estos cambios fueron impulsados por la presión de los facilitadores de pagos MasterCard y Visa. Los LoRAs de celebridades, que son modelos generados por usuarios que permiten la creación de representaciones generadas por IA de personas conocidas, han sido una característica popular en el sitio, con cientos o incluso miles de estos modelos disponibles, predominantemente de sujetos femeninos.

En una transmisión en vivo en Twitch, el Gerente de Compromiso con la Comunidad de CivitAI, Alasdair Nicoll, quien también es creador de modelos SFW, discutió las razones detrás de estos cambios en las políticas. Nicoll explicó que el sitio se vio obligado a cumplir debido a las preocupaciones de los procesadores de pagos sobre contenido para adultos y representaciones de personas reales. Sugirió que Visa y MasterCard podrían exigir medidas aún más estrictas en el futuro:

**‘Estos no son cambios que queríamos hacer. Todo se trata de nueva legislación próxima. Hay leyes sobre deepfakes y pornografía de IA que tienen a los procesadores de pagos, particularmente Visa y MasterCard, preocupados por posibles demandas, lo que está impulsando estos cambios.'**

**‘Nos dieron otras opciones, como eliminar todo el contenido no seguro para el trabajo, o mover el contenido x y triple-x a una plataforma completamente nueva con bloqueo geográfico, dadas las regulaciones en más de la mitad de los estados de EE. UU., así como en muchos países asiáticos y el Reino Unido...**

**‘Otra opción fue cambiar a pagos exclusivamente con criptomonedas, pero no había buenas opciones para nosotros.'**

En los últimos días, el dominio de CivitAI ha experimentado interrupciones intermitentes mientras se implementaban estos cambios. Anteriormente, el sitio había prohibido temas NSFW en las representaciones de LoRAs de celebridades, pero ahora es imposible navegar y ver estos LoRAs de celebridades junto con los muchos modelos NSFW genéricos diseñados para contenido para adultos.

El anuncio oficial aclara:

**‘El contenido etiquetado con nombres de personas reales (como “Tom Cruise”) o marcado como recursos de POI (personas reales) será ocultado de los feeds.'**

En la sesión de Twitch, Nicoll detalló medidas adicionales para proteger a figuras famosas y personas reales. Aunque CivitAI siempre ha permitido a las personas solicitar la eliminación de modelos de IA que las representen, Nicoll mencionó un nuevo sistema diseñado para evitar que dichas imágenes sean recargadas, incluso si el sistema no las ha visto antes. Para lograr esto, el sitio está colaborando con el sistema de moderación de Clavata AI, aunque la extensión total de la participación de Clavata sigue sin estar clara.

Nicoll compartió ejemplos específicos:

**‘Tom Hanks ha reclamado su imagen de nosotros, por ejemplo. Muchas actrices adultas y actores de primera línea han hecho lo mismo...**

**‘La primera persona en hacer esto fue Barbara Eden, o más bien su patrimonio – lo cual es divertido porque ella es bastante mayor.'**

¿Protegidos por defecto?

En los últimos años, la empresa de efectos visuales de IA Metaphysic intentó crear un sistema que permitiera a las personas registrar su imagen, principalmente dirigido a estrellas de Hollywood preocupadas por el robo de identidad basado en IA. Actores como Anne Hathaway, Octavia Spencer y Tom Hanks, que trabajaron con Metaphysic en la película **Here** (2024), apoyaron esta iniciativa. Sin embargo, con el rápido crecimiento de las leyes sobre deepfakes y posibles protecciones de derecho común, el servicio basado en suscripción propuesto por Metaphysic podría volverse redundante. No está claro si la oferta Pro de Metaphysic se transferirá a Double Negative VFX, que adquirió los activos de Metaphysic el año pasado. Cada vez más, la legislación global y las presiones del mercado parecen estar preparadas para ofrecer una protección y soluciones más robustas que las soluciones comerciales.

¿Hervir la rana?

Un informe de 404 Media de 2023 destacó la prevalencia de modelos de IA de celebridades y pornográficos en CivitAI, aunque el fundador del sitio, Justin Maier, minimizó la conexión entre estos modelos y su uso para generar contenido pornográfico. Nicoll aclaró que la principal preocupación de Visa y MasterCard no es la generación de contenido, sino el alojamiento de estos modelos:

**‘Algunos creen que estamos en esta situación porque permitimos la generación. No es así. Simplemente alojar estos modelos y contenido es suficiente para atraer escrutinio.'**

Las discusiones de la comunidad han expresado sorpresa durante mucho tiempo de que CivitAI pudiera alojar imágenes de celebridades. En previsión de una represión, han surgido varias iniciativas para preservar los LoRAs, incluido el subreddit r/CivitaiArchives. Aunque algunos sugieren una solución basada en torrents, aún no ha surgido un dominio destacado, lo que probablemente empuje el contenido prohibido a los márgenes de internet, incluido el dark net, ya que plataformas como Reddit y Discord probablemente seguirán su ejemplo al prohibir dicho contenido.

Actualmente, los LoRAs de celebridades en CivitAI aún son visibles pero con restricciones, y la mayor parte del contenido generado ha sido eliminado de la lista para evitar su descubrimiento casual. Un comentarista en la sesión de Twitch sugirió que la represión podría intensificarse, potencialmente prohibiendo todas las imágenes de personas reales en modelos o representaciones subidas. Nicoll estuvo de acuerdo:

**‘No se detendrán aquí; seguirán exigiendo más y más – ¡absolutamente! La única esperanza es que crezcamos lo suficiente como para tener más voz en lo que se nos dicta...**

**‘Nadie va a comprar Bitcoin solo para usar el generador de CivitAI. Hemos intentado que estos cambios sean lo más aceptables posible, pero esto es lo que nos queda. Me disculpo si esto es insoportable para algunos, pero es lo que hay. Resistimos tanto como pudimos, pero al final, nos dijeron que esto es todo – hazlo o se acabó...**

**‘Estas instituciones financieras no entienden lo que la gente está haciendo aquí. Hemos intentado explicar, pero somos prácticamente el último bastión para el contenido NSFW.'**

Nicoll mencionó que CivitAI contactó a numerosos procesadores de pagos, incluso aquellos que suelen atender sitios de alto riesgo como plataformas pornográficas, pero todos son cautelosos con el contenido de IA:

**‘Incluso los procesadores de pagos de alto riesgo son cautelosos con el contenido de IA. Si fuéramos un sitio porno tradicional, estaríamos bien, pero el contenido de IA es lo que los asusta.'**

¿Hacia dónde vamos?

Antes de este anuncio, CivitAI ya había comenzado a eliminar ciertas subidas. Se ha establecido un 'repositorio de emergencia' para los LoRAs de Wan 2.1 en el sitio web de Hugging Face, incluidos modelos que caen en la categoría ahora prohibida de 'undress'. Mientras tanto, el subreddit r/datahoarders, conocido por preservar literatura del gobierno de EE. UU. durante la administración de Donald Trump, ha mostrado poco interés en salvar el contenido de CivitAI.

A pesar de que la facilitación de CivitAI para la generación de IA NSFW ha sido notada en la literatura académica, como en el artículo de 2024 **Explorando el Uso de Modelos Generativos Abusivos en Civitai**, el enfoque de los procesadores de pagos no está en lo que se produce en CivitAI en sí, sino en cómo se usan estos modelos en comunidades menos reguladas.

El sitio web Mr. Deepfakes, una vez sinónimo de deepfaking NSFW basado en autoencoders, ahora muestra videos pornográficos basados en celebridades utilizando nuevos generadores de texto a video e imagen a video como Hunyuan Video y Wan 2.1, que están ganando tracción y probablemente generarán controversia a medida que sus bases de usuarios se expandan.

Metadatos obligatorios

Otro cambio exigido por los procesadores de pagos, según Nicoll, es la inclusión de metadatos en todas las imágenes del sitio. En flujos de trabajo típicos usando plataformas como ComfyUI, las imágenes generadas contienen metadatos que detallan el modelo utilizado y varias configuraciones. Estos metadatos permiten a los usuarios recrear el proceso de generación y abordar cualquier dependencia faltante. CivitAI ha anunciado que cualquier imagen o video que carezca de estos datos será eliminado dentro de los treinta días, aunque los usuarios pueden añadirlo manualmente a través del sitio web de CivitAI. A pesar del valor probatorio de los metadatos, este requisito parece algo inútil, ya que los metadatos pueden ser fácilmente copiados o falsificados.

Los usuarios con miles de imágenes en CivitAI ahora enfrentan la ardua tarea de anotar manualmente cada una o eliminarlas y volver a subirlas con metadatos añadidos, lo que restablecería cualquier métrica de interacción como 'me gusta' o 'buzz'.

Las nuevas reglas

• El contenido etiquetado con nombres de personas reales o identificado como recursos de personas reales ya no aparecerá en los feeds públicos.
• El contenido con temas de niños/menores será filtrado de los feeds.
• El contenido clasificado como X y XXX que carezca de metadatos de generación será ocultado de la vista pública y marcado con una advertencia, permitiendo al cargador añadir los detalles faltantes. Dicho contenido permanecerá visible solo para su creador hasta que se actualice.
• Las imágenes creadas usando la función Bring Your Own Image (BYOI) ahora deben aplicar al menos un 50% de alteración de ruido durante la generación para evitar la creación de réplicas casi exactas. Esta regla no se aplica a imágenes creadas completamente en CivitAI o remezcladas de otro contenido de CivitAI, que pueden usar cualquier nivel de eliminación de ruido.
• Al navegar con contenido X o XXX habilitado, las búsquedas de nombres de celebridades no devolverán resultados. Combinar nombres de celebridades con contenido para adultos sigue estando prohibido.
• Los anuncios no aparecerán en imágenes o recursos diseñados para replicar la apariencia de personas reales.
• Las propinas (Buzz) estarán deshabilitadas para imágenes o recursos que representen a personas reales.
• Los modelos diseñados para replicar a personas reales no serán elegibles para Acceso Temprano, limitando la monetización de imágenes de celebridades o personas reales.
• Se ha añadido una Declaración de Cumplimiento 2257 para afirmar que todo el material explícito en la plataforma es sintético y no está basado en fotografía o video real.
• Una nueva página de Solicitud de Eliminación de Contenido permite a cualquiera reportar material abusivo o ilegal sin necesidad de iniciar sesión. Los usuarios registrados deben usar las herramientas de reporte integradas en cada publicación. Esto es separado del formulario existente para solicitar la eliminación de la propia imagen de la plataforma.
• CivitAI ha introducido un nuevo sistema de moderación a través de una asociación con Clavata, cuyas herramientas de análisis de imágenes superan a soluciones anteriores como Amazon Rekognition y Hive.

*A pesar de la mención del ‘patrimonio’ de Barbara Eden, la actriz de I Dream of Jeannie sigue viva, actualmente con 93 años.*
^†*Archivado: https://archive.ph/tsMb0*

*Publicado por primera vez el jueves, 24 de abril de 2024. Modificado el jueves, 24 de abril de 2025 14:32:28: fechas corregidas.*