Meta demanda a la aplicación Crush AI por los anuncios de su plataforma
Meta ha interpuesto una demanda contra el creador de una aplicación de "nudificación" por IA muy utilizada, Crush AI, que supuestamente publicó miles de anuncios en las plataformas de Meta. Junto con la acción legal, Meta anunció que está implementando nuevas medidas para combatir aplicaciones similares como Crush AI.
En una demanda presentada en Hong Kong, Meta acusó a Joy Timeline HK, la empresa responsable de Crush AI, de intentar eludir su sistema de revisión de anuncios para promocionar servicios de nudificación de IA. Según una entrada en el blog de Meta, la empresa retiró en repetidas ocasiones los anuncios de la entidad por infracciones de la política, pero Joy Timeline HK creó persistentemente otros nuevos.
Como informó Alexios Mantzarlis, autor del boletín Faked Up, Crush AI empleaba IA generativa para producir deepfakes no consentidos y sexualmente explícitos de personas reales. Al parecer, el servicio publicó más de 8.000 anuncios de sus herramientas "AI undresser" en las plataformas de Meta a principios de enero de 2025. El análisis realizado por Mantzarlis en enero indicó que casi el 90% del tráfico del sitio web de Crush AI procedía de Facebook o Instagram, y él personalmente denunció varios de estos sitios a Meta.
Para eludir las salvaguardias publicitarias de Meta, Crush AI supuestamente creó docenas de cuentas de anunciantes y cambió regularmente los nombres de dominio. Mantzarlis señaló que muchas cuentas llevaban la etiqueta "Eraser Annyone's Clothes" seguida de variaciones numéricas. En un momento dado, el servicio mantuvo incluso una página activa en Facebook para promocionar sus ofertas.
Facebook e Instagram no son los únicos que se enfrentan a estos problemas. A medida que plataformas como X y Meta integran rápidamente funciones de IA generativa, luchan simultáneamente por evitar que estas tecnologías creen entornos inseguros, especialmente para los usuarios más jóvenes.
La investigación muestra que los enlaces a aplicaciones de desvestirse con IA proliferaron drásticamente durante 2024 en plataformas como X y Reddit. Según los informes, YouTube también mostró anuncios de dichas aplicaciones a millones de espectadores. En respuesta, Meta y TikTok han bloqueado los términos de búsqueda relacionados con herramientas para desnudarse con IA, aunque eliminar por completo estos servicios sigue siendo difícil.
Meta ha revelado en una entrada de su blog que ha desarrollado una tecnología especializada para detectar anuncios de servicios de desnudificación o desvestirse con IA, incluso cuando los anuncios no contienen imágenes explícitas. La empresa emplea ahora sistemas de comparación de patrones para identificar y eliminar rápidamente los anuncios duplicados, al tiempo que amplía su léxico de términos, frases y emojis marcados.
Evento TechcrunchAhorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conecta más. Únete a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Ahorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conéctate mejor. Únase a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Boston, MA|15 de julioINSCRÍBASE AHORAMeta declaró que está aplicando técnicas establecidas para desbaratar redes de actores maliciosos a estos nuevos grupos de cuentas que promocionan servicios de nudificación de IA. Desde enero de 2025, la empresa ha desmantelado cuatro redes distintas que anunciaban estas herramientas.
Además de sus propias plataformas, Meta empezará a compartir información sobre aplicaciones de desnudez artificial a través del programa Lantern de la Tech Coalition, una iniciativa de colaboración con Google, Snap y otras empresas tecnológicas para combatir la explotación sexual infantil en Internet. Meta informó de que ha compartido más de 3.800 URL únicas a través de esta red desde marzo.
En cuanto a la legislación, Meta se comprometió a seguir apoyando leyes que permitan a los padres controlar y aprobar las descargas de aplicaciones de sus hijos adolescentes. La empresa apoyó anteriormente la ley estadounidense Take It Down Act y actualmente colabora con los legisladores en su aplicación.
Artículo relacionado
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
¿Cree realmente Mark Zuckerberg que la IA es para todos?
Cargando el reproductor…Meta presentó esta semana Glimmer, un modelo de inteligencia artificial con pesos abiertos que cualquiera puede descargar y ejecutar en hardware personal, un contraste marcado con Muse Spark, el modelo más potente de la empre
Facebook lanza una aplicación complementaria basada en IA para creadores
Facebook reveló el miércoles que va a transformar su Creator Studio en una aplicación complementaria dedicada basada en IA, lo que permitirá a los creadores ampliar su alcance en la plataforma.Al ofre
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
Interesante noticia, pero me preocupa cómo estas apps de 'nudify' siguen apareciendo y usando plataformas grandes para publicitarse. Meta demandando es un paso, pero ¿qué hay de la responsabilidad de los usuarios que las comparten? A veces parece que la regulación va siempre por detrás. Ojalá estas medidas nuevas sirvan de algo, porque el daño que pueden hacer es real 😕.
Meta ha interpuesto una demanda contra el creador de una aplicación de "nudificación" por IA muy utilizada, Crush AI, que supuestamente publicó miles de anuncios en las plataformas de Meta. Junto con la acción legal, Meta anunció que está implementando nuevas medidas para combatir aplicaciones similares como Crush AI.
En una demanda presentada en Hong Kong, Meta acusó a Joy Timeline HK, la empresa responsable de Crush AI, de intentar eludir su sistema de revisión de anuncios para promocionar servicios de nudificación de IA. Según una entrada en el blog de Meta, la empresa retiró en repetidas ocasiones los anuncios de la entidad por infracciones de la política, pero Joy Timeline HK creó persistentemente otros nuevos.
Como informó Alexios Mantzarlis, autor del boletín Faked Up, Crush AI empleaba IA generativa para producir deepfakes no consentidos y sexualmente explícitos de personas reales. Al parecer, el servicio publicó más de 8.000 anuncios de sus herramientas "AI undresser" en las plataformas de Meta a principios de enero de 2025. El análisis realizado por Mantzarlis en enero indicó que casi el 90% del tráfico del sitio web de Crush AI procedía de Facebook o Instagram, y él personalmente denunció varios de estos sitios a Meta.
Para eludir las salvaguardias publicitarias de Meta, Crush AI supuestamente creó docenas de cuentas de anunciantes y cambió regularmente los nombres de dominio. Mantzarlis señaló que muchas cuentas llevaban la etiqueta "Eraser Annyone's Clothes" seguida de variaciones numéricas. En un momento dado, el servicio mantuvo incluso una página activa en Facebook para promocionar sus ofertas.
Facebook e Instagram no son los únicos que se enfrentan a estos problemas. A medida que plataformas como X y Meta integran rápidamente funciones de IA generativa, luchan simultáneamente por evitar que estas tecnologías creen entornos inseguros, especialmente para los usuarios más jóvenes.
La investigación muestra que los enlaces a aplicaciones de desvestirse con IA proliferaron drásticamente durante 2024 en plataformas como X y Reddit. Según los informes, YouTube también mostró anuncios de dichas aplicaciones a millones de espectadores. En respuesta, Meta y TikTok han bloqueado los términos de búsqueda relacionados con herramientas para desnudarse con IA, aunque eliminar por completo estos servicios sigue siendo difícil.
Meta ha revelado en una entrada de su blog que ha desarrollado una tecnología especializada para detectar anuncios de servicios de desnudificación o desvestirse con IA, incluso cuando los anuncios no contienen imágenes explícitas. La empresa emplea ahora sistemas de comparación de patrones para identificar y eliminar rápidamente los anuncios duplicados, al tiempo que amplía su léxico de términos, frases y emojis marcados.
Evento TechcrunchAhorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conecta más. Únete a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Ahorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conéctate mejor. Únase a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Boston, MA|15 de julioINSCRÍBASE AHORAMeta declaró que está aplicando técnicas establecidas para desbaratar redes de actores maliciosos a estos nuevos grupos de cuentas que promocionan servicios de nudificación de IA. Desde enero de 2025, la empresa ha desmantelado cuatro redes distintas que anunciaban estas herramientas.
Además de sus propias plataformas, Meta empezará a compartir información sobre aplicaciones de desnudez artificial a través del programa Lantern de la Tech Coalition, una iniciativa de colaboración con Google, Snap y otras empresas tecnológicas para combatir la explotación sexual infantil en Internet. Meta informó de que ha compartido más de 3.800 URL únicas a través de esta red desde marzo.
En cuanto a la legislación, Meta se comprometió a seguir apoyando leyes que permitan a los padres controlar y aprobar las descargas de aplicaciones de sus hijos adolescentes. La empresa apoyó anteriormente la ley estadounidense Take It Down Act y actualmente colabora con los legisladores en su aplicación.
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
¿Cree realmente Mark Zuckerberg que la IA es para todos?
Cargando el reproductor…Meta presentó esta semana Glimmer, un modelo de inteligencia artificial con pesos abiertos que cualquiera puede descargar y ejecutar en hardware personal, un contraste marcado con Muse Spark, el modelo más potente de la empre
Facebook lanza una aplicación complementaria basada en IA para creadores
Facebook reveló el miércoles que va a transformar su Creator Studio en una aplicación complementaria dedicada basada en IA, lo que permitirá a los creadores ampliar su alcance en la plataforma.Al ofre
Interesante noticia, pero me preocupa cómo estas apps de 'nudify' siguen apareciendo y usando plataformas grandes para publicitarse. Meta demandando es un paso, pero ¿qué hay de la responsabilidad de los usuarios que las comparten? A veces parece que la regulación va siempre por detrás. Ojalá estas medidas nuevas sirvan de algo, porque el daño que pueden hacer es real 😕.





Hogar






