Civitai fortalece las regulaciones de los defectos en medio de la presión de MasterCard y Visa

Civitai, uno de los repositorios de modelos de IA más destacados en Internet, recientemente ha realizado cambios significativos en sus políticas sobre el contenido de NSFW, particularmente en relación con las Loras de celebridades. Estos cambios fueron estimulados por la presión de los facilitadores de pago Mastercard y Visa. Las loras de celebridades, que son modelos generados por el usuario que permiten la creación de representaciones generadas por IA de individuos conocidos, han sido una característica popular en el sitio, con cientos o incluso miles de modelos disponibles, que presenta predominantemente sujetos femeninos.

En un twitch en vivo, el gerente de compromiso comunitario de Civitai, Alasdair Nicoll, quien también es creador de modelos SFW, discutió las razones detrás de estos cambios de política. Nicoll explicó que el sitio se vio obligado a cumplir debido a las preocupaciones de los procesadores de pagos sobre el contenido de los adultos y las representaciones de personas reales. Insinuó que Visa y MasterCard podrían exigir medidas aún más estrictas en el futuro:

** 'Estos no son cambios que queríamos hacer. Se trata de una legislación nueva y futura. Existen leyes de fake y leyes porno de IA que tienen procesadores de pago, particularmente Visa y MasterCard, preocupados por las posibles demandas, lo que está impulsando estos cambios. '**

** 'Nos dieron otras opciones, como eliminar todo el contenido no seguro para el trabajo, o mover el contenido X y Triple-X a una plataforma completamente nueva con bloqueo geo

** 'Otra opción era cambiar a pagos solo criptográficos, pero no había buenas opciones para nosotros' **

En los últimos días, el dominio Civitai ha experimentado un tiempo de inactividad intermitente a medida que se implementaban estos cambios. Anteriormente, el sitio había prohibido los temas de NSFW en las representaciones de Lora Celebrity, pero ahora es imposible navegar y ver estas Loras de celebridades junto con los muchos modelos NSFW genéricos diseñados para contenido maduro.

El anuncio oficial aclara:

** 'Contenido etiquetado con nombres reales de personas (como "Tom Cruise") o marcado como recursos de POI (persona real) se ocultarán de los feeds.' **

En la sesión de Twitch, Nicoll explicó medidas adicionales para proteger figuras famosas y personas reales. Si bien Civitai siempre ha permitido a las personas solicitar la eliminación de modelos de IA que los representan, Nicoll mencionó un nuevo sistema diseñado para evitar que dichas imágenes se vuelvan a cargar, incluso si el sistema no las ha visto antes. Para lograr esto, el sitio se está asociando con el sistema de moderación de Clavata AI, aunque la extensión total de la participación de Clavata sigue sin estar clara.

Nicoll compartió ejemplos específicos:

** 'Tom Hanks ha reclamado su semejanza de nosotros, por ejemplo. Muchas actrices adultas y actores de la lista A han hecho lo mismo ... **

** 'La primera persona en hacer esto fue Barbara Eden, o más bien su patrimonio, lo cual es divertido porque es bastante anciana'.

Protegido por defecto?

En los últimos años, la compañía AI VFX metafísica intentó crear un sistema que permitiera a las personas registrar su semejanza, principalmente dirigida a estrellas de Hollywood preocupadas por el robo de identidad basado en la IA. Actores como Anne Hathaway, Octavia Spencer y Tom Hanks, que trabajaron con metafísica en la película ** aquí ** (2024), apoyaron esta iniciativa. Sin embargo, con el rápido crecimiento de las leyes de Deepfake y las posibles protecciones de derecho consuetudinario, el servicio basado en suscripción propuesto a partir de metafísico podría volverse redundante. No está claro si la oferta profesional de MetaPhysic se transferirá a VFX negativo doble, que adquirió los activos de Metafísica el año pasado. Cada vez más, la legislación global y las presiones del mercado parecen estar preparadas para ofrecer una protección y remedios más sólidos que las soluciones comerciales.

Hervir la rana

Un informe de 2023 de 404 Media destacó la prevalencia de los modelos de IA de celebridades y porno en Civitai, aunque el fundador del sitio, Justin Maier, minimizó la conexión entre estos modelos y su uso en la generación de contenido pornográfico. Nicoll aclaró que la principal preocupación para Visa y MasterCard no es la generación de contenido, sino el alojamiento de estos modelos:

** 'Algunos creen que estamos en esta situación porque permitimos la generación. Eso no es todo. Simplemente alojar estos modelos y el contenido es suficiente para dibujar el escrutinio. '**

Las discusiones comunitarias se han sorprendido durante mucho tiempo de que Civitai se le permitió organizar semejanzas de celebridades. En previsión de una represión, han surgido varias iniciativas para preservar las loras, incluido el subreddit r/civitaiarchives. Si bien algunos sugieren una solución basada en torrent, aún no ha surgido un dominio prominente, probablemente empujando contenido prohibido a los maricones de Internet, incluida la red oscura, ya que es probable que plataformas como Reddit y Discord hagan lo mismo para prohibir dicho contenido.

Actualmente, las celebridades Loras en Civitai todavía son visibles, pero con restricciones, y la mayoría de los contenidos generados se han eliminado para evitar el descubrimiento casual. Un comentarista en la sesión de Twitch sugirió que la represión podría intensificarse, potencialmente prohibiendo todas las semejanzas de personas reales en modelos o representaciones cargadas. Nicoll estuvo de acuerdo:

** 'No se detendrán aquí; Seguirán exigiendo cada vez más, ¡absolutamente! La única esperanza es que crezcamos lo suficientemente grandes como para que tengamos más dicho en lo que nos dicta ... **

** 'Nadie va a comprar Bitcoin solo para usar el generador Civitai. Hemos tratado de hacer estos cambios lo más sabrosos posible, pero esto es lo que nos queda. Pido disculpas si esto es insoportable para algunos, pero es lo que es. Retrocedimos tanto como pudimos, pero en última instancia, nos dijeron que esto es todo, haz esto o se acabó ... **

** 'Estas instituciones financieras no entienden lo que la gente está haciendo aquí. Hemos tratado de explicar, pero prácticamente somos el último bastión para el contenido de NSFW. '**

Nicoll mencionó que Civitai contactó a numerosos procesadores de pagos, incluso aquellos que generalmente sirven sitios de alto riesgo como plataformas pornográficas, pero todos desconfían del contenido de IA:

** 'Incluso los procesadores de pago de alto riesgo son cautelosos sobre el contenido de IA. Si fuéramos un sitio porno tradicional, estaríamos bien, pero el contenido de IA es lo que los asusta '**

¿Dónde sigue?

Antes de este anuncio, Civitai ya había comenzado a eliminar ciertas cargas. Se ha establecido un 'repositorio de emergencia' para WAN 2.1 Loras en el sitio web de Hugging Face, incluidos los modelos que caen en la categoría de 'desvestir' ahora prohibida. Mientras tanto, el Subreddit R/Datahoarders, conocido por preservar la literatura del gobierno de los Estados Unidos durante la administración de Donald Trump, ha mostrado poco interés en salvar el contenido de Civitai.

A pesar de la facilitación de Civitai de la generación de AI NSFW que se observa en la literatura académica, como el documento 2024 ** que explora el uso de modelos de IA generativos abusivos en Civitai **, el enfoque de los procesadores de pagos no se trata de lo que se produce en Civitai, sino en cómo se usan estos modelos en comunidades menos reguladas.

El sitio web del Sr. Deepfakes, una vez sinónimo de NSFW Deepfaking, basado en autoencoder, ahora muestra videos pornográficos basados ​​en celebridades que utilizan nuevos generadores de texto a video y imagen a video como Hunyuan Video y WAN 2.1, que están ganando tracción y es probable que generen controversia a medida que sus bases de usuario expanden.

Metadatos obligatorios

Otro cambio exigido por los procesadores de pagos, según Nicoll, es la inclusión de metadatos en todas las imágenes del sitio. En los flujos de trabajo típicos que utilizan plataformas como Comfyui, las imágenes generadas contienen metadatos que detallan el modelo utilizado y varias configuraciones. Estos metadatos permiten a los usuarios recrear el proceso de generación y abordar cualquier dependencia faltante. Civitai ha anunciado que cualquier imagen o video que carece de estos datos se eliminará dentro de los treinta días, aunque los usuarios pueden agregarla manualmente a través del sitio web de Civitai. A pesar del valor probatorio de los metadatos, este requisito parece algo inútil, ya que los metadatos pueden copiarse o falsificarse fácilmente.

Los usuarios con miles de imágenes en Civitai ahora enfrentan la tarea desalentadora de anotar manualmente cada una o eliminarlas y volver a cargarlas con metadatos agregados, que restablecería cualquier métrica de compromiso como 'me gusta' o 'zumbido'.

Las nuevas reglas

• El contenido etiquetado con los nombres de las personas reales o identificados como recursos de personas reales ya no aparecerá en los feeds públicos.
• El contenido con temas menores/menores se filtrará fuera de los alimentos.
• El contenido con clasificación X y XXX que carece de metadatos de generación se ocultará a la vista pública y se marcará con una advertencia, lo que permite que el cargador agregue los detalles faltantes. Dicho contenido permanecerá visible solo para su creador hasta que se actualice.
• Las imágenes creadas con la función Bring Your Own Image (BYOI) ahora deben aplicar al menos un 50% de alteración de ruido durante la generación para evitar la creación de réplicas casi exactas. Esta regla no se aplica a las imágenes creadas por completo en Civitai o remezclada de otro contenido de Civitai, que puede usar cualquier nivel de Denoise.
• Al navegar con contenido X o XXX habilitado, las búsquedas de nombres de celebridades no devolverán resultados. La combinación de nombres de celebridades con contenido maduro sigue siendo prohibido.
• Los anuncios no aparecerán en imágenes o recursos diseñados para replicar la apariencia de individuos reales.
• Las propinas (Buzz) se deshabilitarán para imágenes o recursos que representen individuos reales.
• Los modelos diseñados para replicar a las personas reales no serán elegibles para el acceso temprano, lo que limita la monetización de las semejanzas de celebridades o personas reales.
• Se ha agregado una declaración de cumplimiento de 2257 para afirmar que todo el material explícito en la plataforma es sintético y no se basa en fotografía o video reales.
• Una nueva página de solicitud de eliminación de contenido permite a cualquier persona informar material abusivo o ilegal sin necesidad de iniciar sesión. Los usuarios registrados deben usar las herramientas de informes incorporadas en cada publicación. Esto está separado del formulario existente para solicitar la eliminación de la imagen de la plataforma.
• Civitai ha introducido un nuevo sistema de moderación a través de una asociación con Clavata, cuyas herramientas de análisis de imágenes superan a las soluciones anteriores como Amazon Rekognition y Hive.

*A pesar de la mención de la 'finca' de Barbara Eden, el sueño de I Dream of Jeannie sigue vivo, actualmente de 93 años.*
^† *Archivado: https://archive.ph/tsmb0***

*Publicado por primera vez el jueves 24 de abril de 202. Modificado el jueves 24 de abril de 2025 14:32:28: Fechas corregidas.*