HogarMeta expuesta por incitar a la IA rival a probar temas psicológicos extremos
Las recientes revelaciones sobre un mensaje interno han desatado un intenso debate en torno a los límites de seguridad de la IA. Según informes de prensa, Meta llevó a cabo un proyecto denominado “Cannes”, en el cual contrató trabajadores externos para que se hicieran pasar por menores y realizaran controvertidos “pruebas de estrés extremo” contra varios chatbots de sus principales competidores, entre ellos ChatGPT, Gemini y Character.AI.
Según documentos internos de Meta y varias fuentes informadas, el proyecto continuó al menos hasta el 21 de abril de este año. A través de la empresa externa Covalen, Meta movilizó a cientos de trabajadores para crear perfiles falsos de usuarios menores de 18 años, utilizando direcciones de correo temporal y una contraseña estándar. Estas cuentas “de menores” enviaban luego prompts de alto riesgo relacionados con el suicidio, el autolesionismo y los trastornos alimenticios durante las conversaciones con los chatbots de IA de la competencia, e incluso subían imágenes de cuchillos, píldoras y sogas para provocar los mecanismos de respuesta de dichos modelos.
Los documentos internos del proyecto revelan que estos escenarios de prueba fueron diseñados meticulosamente para examinar las defensas de seguridad de los sistemas de IA de la competencia, con el objetivo de encontrar formas de hacer que los chatbots sortearan sus medidas de protección y generaran contenido inseguro. En una sola ronda de pruebas en agosto de 2025, el personal introdujo más de 45.000 prompts de alto riesgo en las plataformas de la competencia. Los probadores se hacían pasar con frecuencia por adolescentes angustiados, inventando situaciones como “preguntar sobre píldoras abortivas”, “enfrentarse a amenazas violentas” o “ocultar trastornos alimenticios”, para poner a prueba los límites de los modelos.
En respuesta, Meta emitió un comunicado público en el que defendió sus acciones. Un portavoz afirmó que realizar pruebas comparativas de las respuestas de los chatbots es una práctica habitual en la industria para garantizar que los productos de IA sean seguros y apropiados, y que las acusaciones de intenciones maliciosas tergiversan los esfuerzos de las empresas tecnológicas por mejorar sus sistemas. Meta también negó categóricamente haber utilizado los datos de prueba de sus competidores para entrenar sus propios modelos.
Este incidente no solo pone de manifiesto las zonas grises en las pruebas de seguridad de la IA, sino que también reaviva las preocupaciones externas sobre la vulnerabilidad de la IA generativa al tratar temas sensibles relacionados con los jóvenes. A medida que la tecnología de IA avanza rápidamente, equilibrar pruebas eficientes y seguras con los límites entre el comportamiento competitivo y las consideraciones éticas se ha convertido en un desafío urgente para toda la industria.
Artículo relacionado
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en
Cumplimiento de la normativa sobre vehículos autónomos en California: una nueva era de multas, geovallas y 1 millón de millas
Guident opera un servicio de transporte de AuveTech en el sur de Florida, gestionando una ruta de cuatro millas en West Palm Beach y otra de una milla en Boca Ratón mediante su tecnología de monitoriz
Recomendaciones de temas especiales relacionados
chatbot
Las mejores aplicaciones de chat de roleplay con IA para practicar idiomas, prepararse para entrevistas y mejorar la fluidez diaria
¡Las mejores aplicaciones de chat de roleplay con IA de 2026, mejor valoradas, para practicar idiomas, prepararse para entrevistas y mejorar la fluidez diaria! XIX.AI selecciona una poderosa colección revolucionaria que ofrece comparaciones entre versiones gratuitas y de pago, pruebas del mundo real y clasificaciones actualizadas semanalmente. Estas herramientas imprescindibles te ayudan a mejorar tus habilidades de escritura, superar los desafíos de fluidez y aumentar la eficiencia comunicativa en todas las situaciones cotidianas. ¡Explora ahora para descubrir tu herramienta perfecta para el crecimiento lingüístico!
10 herramientas
xix.ai
composicion musical
Herramientas de separación de pistas con IA para la producción de remezclas, la preparación de samples y las pistas maestras de karaoke
Las mejores herramientas de separación de pistas con IA de 2026, seleccionadas para la producción de remixes, la preparación de samples y la creación de temas de karaoke. Estas potentes herramientas revolucionarias se han sometido a pruebas en condiciones reales para ofrecer un aislamiento de audio preciso, lo que aumenta significativamente la productividad. XIX.AI ofrece una guía comparativa entre versiones gratuitas y de pago, actualizada semanalmente, para ayudarte a encontrar la solución imprescindible que mejor se adapte a tus necesidades. Explórala ahora para sacar el máximo partido a la IA.
8 herramientas
xix.ai
Análisis de datos
Copilotos de AI para SQL destinados a paneles de ingresos, análisis de embudos y métricas de productos
¡Los mejores copilotos de SQL basados en IA de 2026, clasificados entre los más destacados! XIX.AI reúne una poderosa colección que evoluciona constantemente, con pruebas en el mundo real actualizadas semanalmente. Estas herramientas indispensables le permiten generar paneles de control de ingresos precisos, analizar los canales de venta y seguir de cerca las métricas de los productos de manera rápida, lo que aumenta significativamente su productividad. ¡Explórelas ahora para encontrar la herramienta perfecta para tomar decisiones basadas en datos! 238 caracteres
9 herramientas
xix.ai
composicion musical
Mejores herramientas de IA para escribir melodías en borradores de canciones
2026 Últimas Mejores Herramientas de Escritura de Melodías con IA Mejor Valoradas para Borradores de Canciones. XIX.AI ha curado una colección altamente poderosa y transformadora que ha pasado por rigurosas pruebas en el mundo real para ofrecer la mejor experiencia de escritura. Puedes encontrar comparaciones detalladas entre versiones gratuitas y de pago, clasificaciones precisas y opciones imperdibles diseñadas para ayudarte a crear borradores de canciones impresionantes sin esfuerzo y aumentar significativamente tu productividad creativa. ¡Explora ahora para descubrir tu herramienta perfecta!
8 herramientas
xix.ai
chatbot
Mejores herramientas de entrenamiento de conversación con IA para practicar entrevistas
¡Las mejores herramientas de entrenamiento de conversación con IA para prácticas de entrevistas más recientes y mejor valoradas de 2026 ya están disponibles en XIX.AI! Esta colección seleccionada incluye herramientas poderosas y transformadoras que han pasado por rigurosas pruebas en el mundo real para ofrecer retroalimentación precisa. Encontrarás una comparación entre opciones gratuitas y de pago, así como clasificaciones detalladas para ayudarte a elegir la opción imprescindible que aumente tu confianza y habilidades. ¡Explora ahora para descubrir tu herramienta perfecta para el éxito en las entrevistas!
12 herramientas
xix.ai
Diseño y Arte
Las mejores herramientas de transferencia de estilos con IA para experimentos creativos
¡Las mejores herramientas de transferencia de estilo con IA de 2026, mejor valoradas para experimentos creativos! XIX.AI ha seleccionado una colección de herramientas potentes y revolucionarias que no te puedes perder, capaces de ofrecer resultados excepcionales según pruebas reales y clasificaciones rigurosas. Estas soluciones de primera categoría ayudan a los creativos a aumentar significativamente su productividad, acelerando la creación de contenidos y abriendo un sinfín de posibilidades creativas. ¡Explora ahora mismo para descubrir tu herramienta perfecta y empieza a crear hoy mismo!
9 herramientas
xix.ai
comentario (0)
0/500
Las recientes revelaciones sobre un mensaje interno han desatado un intenso debate en torno a los límites de seguridad de la IA. Según informes de prensa, Meta llevó a cabo un proyecto denominado “Cannes”, en el cual contrató trabajadores externos para que se hicieran pasar por menores y realizaran controvertidos “pruebas de estrés extremo” contra varios chatbots de sus principales competidores, entre ellos ChatGPT, Gemini y Character.AI.
Según documentos internos de Meta y varias fuentes informadas, el proyecto continuó al menos hasta el 21 de abril de este año. A través de la empresa externa Covalen, Meta movilizó a cientos de trabajadores para crear perfiles falsos de usuarios menores de 18 años, utilizando direcciones de correo temporal y una contraseña estándar. Estas cuentas “de menores” enviaban luego prompts de alto riesgo relacionados con el suicidio, el autolesionismo y los trastornos alimenticios durante las conversaciones con los chatbots de IA de la competencia, e incluso subían imágenes de cuchillos, píldoras y sogas para provocar los mecanismos de respuesta de dichos modelos.
Los documentos internos del proyecto revelan que estos escenarios de prueba fueron diseñados meticulosamente para examinar las defensas de seguridad de los sistemas de IA de la competencia, con el objetivo de encontrar formas de hacer que los chatbots sortearan sus medidas de protección y generaran contenido inseguro. En una sola ronda de pruebas en agosto de 2025, el personal introdujo más de 45.000 prompts de alto riesgo en las plataformas de la competencia. Los probadores se hacían pasar con frecuencia por adolescentes angustiados, inventando situaciones como “preguntar sobre píldoras abortivas”, “enfrentarse a amenazas violentas” o “ocultar trastornos alimenticios”, para poner a prueba los límites de los modelos.
En respuesta, Meta emitió un comunicado público en el que defendió sus acciones. Un portavoz afirmó que realizar pruebas comparativas de las respuestas de los chatbots es una práctica habitual en la industria para garantizar que los productos de IA sean seguros y apropiados, y que las acusaciones de intenciones maliciosas tergiversan los esfuerzos de las empresas tecnológicas por mejorar sus sistemas. Meta también negó categóricamente haber utilizado los datos de prueba de sus competidores para entrenar sus propios modelos.
Este incidente no solo pone de manifiesto las zonas grises en las pruebas de seguridad de la IA, sino que también reaviva las preocupaciones externas sobre la vulnerabilidad de la IA generativa al tratar temas sensibles relacionados con los jóvenes. A medida que la tecnología de IA avanza rápidamente, equilibrar pruebas eficientes y seguras con los límites entre el comportamiento competitivo y las consideraciones éticas se ha convertido en un desafío urgente para toda la industria.
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en
Cumplimiento de la normativa sobre vehículos autónomos en California: una nueva era de multas, geovallas y 1 millón de millas
Guident opera un servicio de transporte de AuveTech en el sur de Florida, gestionando una ruta de cuatro millas en West Palm Beach y otra de una milla en Boca Ratón mediante su tecnología de monitoriz
¡Las mejores aplicaciones de chat de roleplay con IA de 2026, mejor valoradas, para practicar idiomas, prepararse para entrevistas y mejorar la fluidez diaria! XIX.AI selecciona una poderosa colección revolucionaria que ofrece comparaciones entre versiones gratuitas y de pago, pruebas del mundo real y clasificaciones actualizadas semanalmente. Estas herramientas imprescindibles te ayudan a mejorar tus habilidades de escritura, superar los desafíos de fluidez y aumentar la eficiencia comunicativa en todas las situaciones cotidianas. ¡Explora ahora para descubrir tu herramienta perfecta para el crecimiento lingüístico!
10 herramientas
xix.ai
Las mejores herramientas de separación de pistas con IA de 2026, seleccionadas para la producción de remixes, la preparación de samples y la creación de temas de karaoke. Estas potentes herramientas revolucionarias se han sometido a pruebas en condiciones reales para ofrecer un aislamiento de audio preciso, lo que aumenta significativamente la productividad. XIX.AI ofrece una guía comparativa entre versiones gratuitas y de pago, actualizada semanalmente, para ayudarte a encontrar la solución imprescindible que mejor se adapte a tus necesidades. Explórala ahora para sacar el máximo partido a la IA.
8 herramientas
xix.ai
¡Los mejores copilotos de SQL basados en IA de 2026, clasificados entre los más destacados! XIX.AI reúne una poderosa colección que evoluciona constantemente, con pruebas en el mundo real actualizadas semanalmente. Estas herramientas indispensables le permiten generar paneles de control de ingresos precisos, analizar los canales de venta y seguir de cerca las métricas de los productos de manera rápida, lo que aumenta significativamente su productividad. ¡Explórelas ahora para encontrar la herramienta perfecta para tomar decisiones basadas en datos! 238 caracteres
9 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Escritura de Melodías con IA Mejor Valoradas para Borradores de Canciones. XIX.AI ha curado una colección altamente poderosa y transformadora que ha pasado por rigurosas pruebas en el mundo real para ofrecer la mejor experiencia de escritura. Puedes encontrar comparaciones detalladas entre versiones gratuitas y de pago, clasificaciones precisas y opciones imperdibles diseñadas para ayudarte a crear borradores de canciones impresionantes sin esfuerzo y aumentar significativamente tu productividad creativa. ¡Explora ahora para descubrir tu herramienta perfecta!
8 herramientas
xix.ai
¡Las mejores herramientas de entrenamiento de conversación con IA para prácticas de entrevistas más recientes y mejor valoradas de 2026 ya están disponibles en XIX.AI! Esta colección seleccionada incluye herramientas poderosas y transformadoras que han pasado por rigurosas pruebas en el mundo real para ofrecer retroalimentación precisa. Encontrarás una comparación entre opciones gratuitas y de pago, así como clasificaciones detalladas para ayudarte a elegir la opción imprescindible que aumente tu confianza y habilidades. ¡Explora ahora para descubrir tu herramienta perfecta para el éxito en las entrevistas!
12 herramientas
xix.ai
¡Las mejores herramientas de transferencia de estilo con IA de 2026, mejor valoradas para experimentos creativos! XIX.AI ha seleccionado una colección de herramientas potentes y revolucionarias que no te puedes perder, capaces de ofrecer resultados excepcionales según pruebas reales y clasificaciones rigurosas. Estas soluciones de primera categoría ayudan a los creativos a aumentar significativamente su productividad, acelerando la creación de contenidos y abriendo un sinfín de posibilidades creativas. ¡Explora ahora mismo para descubrir tu herramienta perfecta y empieza a crear hoy mismo!
9 herramientas
xix.ai
