Meta demanda a la aplicación Crush AI por los anuncios de su plataforma
Meta ha interpuesto una demanda contra el creador de una aplicación de "nudificación" por IA muy utilizada, Crush AI, que supuestamente publicó miles de anuncios en las plataformas de Meta. Junto con la acción legal, Meta anunció que está implementando nuevas medidas para combatir aplicaciones similares como Crush AI.
En una demanda presentada en Hong Kong, Meta acusó a Joy Timeline HK, la empresa responsable de Crush AI, de intentar eludir su sistema de revisión de anuncios para promocionar servicios de nudificación de IA. Según una entrada en el blog de Meta, la empresa retiró en repetidas ocasiones los anuncios de la entidad por infracciones de la política, pero Joy Timeline HK creó persistentemente otros nuevos.
Como informó Alexios Mantzarlis, autor del boletín Faked Up, Crush AI empleaba IA generativa para producir deepfakes no consentidos y sexualmente explícitos de personas reales. Al parecer, el servicio publicó más de 8.000 anuncios de sus herramientas "AI undresser" en las plataformas de Meta a principios de enero de 2025. El análisis realizado por Mantzarlis en enero indicó que casi el 90% del tráfico del sitio web de Crush AI procedía de Facebook o Instagram, y él personalmente denunció varios de estos sitios a Meta.
Para eludir las salvaguardias publicitarias de Meta, Crush AI supuestamente creó docenas de cuentas de anunciantes y cambió regularmente los nombres de dominio. Mantzarlis señaló que muchas cuentas llevaban la etiqueta "Eraser Annyone's Clothes" seguida de variaciones numéricas. En un momento dado, el servicio mantuvo incluso una página activa en Facebook para promocionar sus ofertas.
Facebook e Instagram no son los únicos que se enfrentan a estos problemas. A medida que plataformas como X y Meta integran rápidamente funciones de IA generativa, luchan simultáneamente por evitar que estas tecnologías creen entornos inseguros, especialmente para los usuarios más jóvenes.
La investigación muestra que los enlaces a aplicaciones de desvestirse con IA proliferaron drásticamente durante 2024 en plataformas como X y Reddit. Según los informes, YouTube también mostró anuncios de dichas aplicaciones a millones de espectadores. En respuesta, Meta y TikTok han bloqueado los términos de búsqueda relacionados con herramientas para desnudarse con IA, aunque eliminar por completo estos servicios sigue siendo difícil.
Meta ha revelado en una entrada de su blog que ha desarrollado una tecnología especializada para detectar anuncios de servicios de desnudificación o desvestirse con IA, incluso cuando los anuncios no contienen imágenes explícitas. La empresa emplea ahora sistemas de comparación de patrones para identificar y eliminar rápidamente los anuncios duplicados, al tiempo que amplía su léxico de términos, frases y emojis marcados.
Evento TechcrunchAhorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conecta más. Únete a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Ahorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conéctate mejor. Únase a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Boston, MA|15 de julioINSCRÍBASE AHORAMeta declaró que está aplicando técnicas establecidas para desbaratar redes de actores maliciosos a estos nuevos grupos de cuentas que promocionan servicios de nudificación de IA. Desde enero de 2025, la empresa ha desmantelado cuatro redes distintas que anunciaban estas herramientas.
Además de sus propias plataformas, Meta empezará a compartir información sobre aplicaciones de desnudez artificial a través del programa Lantern de la Tech Coalition, una iniciativa de colaboración con Google, Snap y otras empresas tecnológicas para combatir la explotación sexual infantil en Internet. Meta informó de que ha compartido más de 3.800 URL únicas a través de esta red desde marzo.
En cuanto a la legislación, Meta se comprometió a seguir apoyando leyes que permitan a los padres controlar y aprobar las descargas de aplicaciones de sus hijos adolescentes. La empresa apoyó anteriormente la ley estadounidense Take It Down Act y actualmente colabora con los legisladores en su aplicación.
Artículo relacionado
Meta AI ya responde a los mensajes de los compradores en Facebook Marketplace
Facebook Marketplace presenta nuevas funciones de Meta AI, entre las que se incluyen respuestas automáticas a las consultas de los compradores, según anunció la empresa el jueves. La plataforma tambié
Meta firma un acuerdo para adquirir millones de CPU de IA de Amazon
Amazon ha cerrado una importante alianza con Meta, apostando una vez más por sus propios chips de diseño propio. Meta ha acordado implementar millones de chips AWS Graviton para satisfacer sus crecien
El auge del gas natural de Meta podría impulsar la red eléctrica de Dakota del Sur
Los centros de datos han alcanzado tal magnitud que su consumo eléctrico equivale ahora al de estados enteros de EE. UU. Tomemos como ejemplo el centro de datos Hyperion AI de Meta: una vez terminado,
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
Interesante noticia, pero me preocupa cómo estas apps de 'nudify' siguen apareciendo y usando plataformas grandes para publicitarse. Meta demandando es un paso, pero ¿qué hay de la responsabilidad de los usuarios que las comparten? A veces parece que la regulación va siempre por detrás. Ojalá estas medidas nuevas sirvan de algo, porque el daño que pueden hacer es real 😕.
Meta ha interpuesto una demanda contra el creador de una aplicación de "nudificación" por IA muy utilizada, Crush AI, que supuestamente publicó miles de anuncios en las plataformas de Meta. Junto con la acción legal, Meta anunció que está implementando nuevas medidas para combatir aplicaciones similares como Crush AI.
En una demanda presentada en Hong Kong, Meta acusó a Joy Timeline HK, la empresa responsable de Crush AI, de intentar eludir su sistema de revisión de anuncios para promocionar servicios de nudificación de IA. Según una entrada en el blog de Meta, la empresa retiró en repetidas ocasiones los anuncios de la entidad por infracciones de la política, pero Joy Timeline HK creó persistentemente otros nuevos.
Como informó Alexios Mantzarlis, autor del boletín Faked Up, Crush AI empleaba IA generativa para producir deepfakes no consentidos y sexualmente explícitos de personas reales. Al parecer, el servicio publicó más de 8.000 anuncios de sus herramientas "AI undresser" en las plataformas de Meta a principios de enero de 2025. El análisis realizado por Mantzarlis en enero indicó que casi el 90% del tráfico del sitio web de Crush AI procedía de Facebook o Instagram, y él personalmente denunció varios de estos sitios a Meta.
Para eludir las salvaguardias publicitarias de Meta, Crush AI supuestamente creó docenas de cuentas de anunciantes y cambió regularmente los nombres de dominio. Mantzarlis señaló que muchas cuentas llevaban la etiqueta "Eraser Annyone's Clothes" seguida de variaciones numéricas. En un momento dado, el servicio mantuvo incluso una página activa en Facebook para promocionar sus ofertas.
Facebook e Instagram no son los únicos que se enfrentan a estos problemas. A medida que plataformas como X y Meta integran rápidamente funciones de IA generativa, luchan simultáneamente por evitar que estas tecnologías creen entornos inseguros, especialmente para los usuarios más jóvenes.
La investigación muestra que los enlaces a aplicaciones de desvestirse con IA proliferaron drásticamente durante 2024 en plataformas como X y Reddit. Según los informes, YouTube también mostró anuncios de dichas aplicaciones a millones de espectadores. En respuesta, Meta y TikTok han bloqueado los términos de búsqueda relacionados con herramientas para desnudarse con IA, aunque eliminar por completo estos servicios sigue siendo difícil.
Meta ha revelado en una entrada de su blog que ha desarrollado una tecnología especializada para detectar anuncios de servicios de desnudificación o desvestirse con IA, incluso cuando los anuncios no contienen imágenes explícitas. La empresa emplea ahora sistemas de comparación de patrones para identificar y eliminar rápidamente los anuncios duplicados, al tiempo que amplía su léxico de términos, frases y emojis marcados.
Evento TechcrunchAhorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conecta más. Únete a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Ahorra más de 200 $ en tu pase TechCrunch All Stage
Construye de forma más inteligente. Escala más rápido. Conéctate mejor. Únase a los líderes de la industria de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de sesiones estratégicas, talleres y valiosos contactos.
Boston, MA|15 de julioINSCRÍBASE AHORAMeta declaró que está aplicando técnicas establecidas para desbaratar redes de actores maliciosos a estos nuevos grupos de cuentas que promocionan servicios de nudificación de IA. Desde enero de 2025, la empresa ha desmantelado cuatro redes distintas que anunciaban estas herramientas.
Además de sus propias plataformas, Meta empezará a compartir información sobre aplicaciones de desnudez artificial a través del programa Lantern de la Tech Coalition, una iniciativa de colaboración con Google, Snap y otras empresas tecnológicas para combatir la explotación sexual infantil en Internet. Meta informó de que ha compartido más de 3.800 URL únicas a través de esta red desde marzo.
En cuanto a la legislación, Meta se comprometió a seguir apoyando leyes que permitan a los padres controlar y aprobar las descargas de aplicaciones de sus hijos adolescentes. La empresa apoyó anteriormente la ley estadounidense Take It Down Act y actualmente colabora con los legisladores en su aplicación.
Meta AI ya responde a los mensajes de los compradores en Facebook Marketplace
Facebook Marketplace presenta nuevas funciones de Meta AI, entre las que se incluyen respuestas automáticas a las consultas de los compradores, según anunció la empresa el jueves. La plataforma tambié
Meta firma un acuerdo para adquirir millones de CPU de IA de Amazon
Amazon ha cerrado una importante alianza con Meta, apostando una vez más por sus propios chips de diseño propio. Meta ha acordado implementar millones de chips AWS Graviton para satisfacer sus crecien
El auge del gas natural de Meta podría impulsar la red eléctrica de Dakota del Sur
Los centros de datos han alcanzado tal magnitud que su consumo eléctrico equivale ahora al de estados enteros de EE. UU. Tomemos como ejemplo el centro de datos Hyperion AI de Meta: una vez terminado,
Interesante noticia, pero me preocupa cómo estas apps de 'nudify' siguen apareciendo y usando plataformas grandes para publicitarse. Meta demandando es un paso, pero ¿qué hay de la responsabilidad de los usuarios que las comparten? A veces parece que la regulación va siempre por detrás. Ojalá estas medidas nuevas sirvan de algo, porque el daño que pueden hacer es real 😕.





Hogar






