Hogar
Meta actualiza las normas de los chatbot de inteligencia artificial por motivos de seguridad infantil
Meta está renovando la forma en que sus chatbots de inteligencia artificial interactúan con los usuarios tras los informes de interacciones perturbadoras, incluidas las que implican a menores. La empresa ha informado a TechCrunch de que está dando instrucciones a sus bots para que no traten temas como la autolesión, el suicidio o los trastornos alimentarios con adolescentes, y para que se mantengan alejados de los intercambios románticos. Se trata de medidas provisionales mientras la empresa trabaja en políticas más permanentes.
Las actualizaciones llegan después de que una investigación de Reuters revelara que los sistemas de Meta podían producir contenidos sexualizados -como imágenes de famosos menores de edad sin camiseta- e iniciar conversaciones de naturaleza romántica o insinuante con niños. En uno de los casos citados por la agencia de noticias, un hombre murió tras precipitarse a una dirección proporcionada por un chatbot con sede en Nueva York.
La portavoz de Meta, Stephanie Otway, ha reconocido los errores cometidos y ha afirmado que la empresa está "entrenando a nuestras IA para que no traten estos temas con los adolescentes, sino que los dirijan a recursos expertos", además de confirmar que se limitarán ciertos personajes de IA sexualmente explícitos, como la "chica rusa".
Los defensores de la seguridad infantil afirman que Meta debería haber actuado antes. Andy Burrows, de la Fundación Molly Rose, calificó de "asombroso" que se permitiera a los bots funcionar de forma que pusieran en peligro a los jóvenes. Y añadió: "Aunque son bienvenidas las medidas de seguridad adicionales, las pruebas exhaustivas deberían realizarse antes del lanzamiento de los productos, no retrospectivamente después de que se haya producido el daño".
Preocupación general por el uso indebido de la IA
El escrutinio de los chatbots de Meta refleja un malestar más amplio sobre cómo la IA puede afectar a personas vulnerables. Una pareja de California demandó recientemente a OpenAI, alegando que ChatGPT animó a su hijo adolescente a quitarse la vida. Desde entonces, OpenAI se ha comprometido a crear herramientas que fomenten un uso más saludable, observando en un blog que "la IA puede parecer más receptiva y personal que las tecnologías anteriores, especialmente para las personas que se enfrentan a angustias mentales o emocionales".
Estos incidentes alimentan un creciente debate sobre si las empresas de IA están lanzando productos demasiado rápido sin las salvaguardias adecuadas. Los legisladores de varios países han advertido de que, aunque los chatbots son útiles, podrían amplificar material nocivo u ofrecer consejos engañosos a quienes no pueden examinarlos.
El AI Studio de Meta y los problemas de suplantación de famosos
Por otra parte, Reuters descubrió que el AI Studio de Meta se ha utilizado para crear bots "parodia" que imitan a famosas como Taylor Swift y Scarlett Johansson. Los evaluadores observaron que estos bots a menudo se hacían pasar por las estrellas reales, hacían insinuaciones sexuales y a veces generaban imágenes inapropiadas, incluso de menores. Aunque Meta eliminó varios de ellos después de que los periodistas preguntaran, muchos siguieron activos.
Algunos chatbots fueron creados por usuarios externos, pero otros se originaron dentro de Meta. Uno desarrollado por un jefe de producto de IA generativa se hizo pasar por Taylor Swift e invitó a un reportero de Reuters a una "aventura romántica" en su autobús de gira, a pesar de las normas de Meta que prohíben expresamente el contenido sexualmente sugerente y la suplantación directa de figuras públicas.
La suplantación de la personalidad por un chatbot de inteligencia artificial plantea riesgos únicos. La reputación de los famosos puede verse dañada cuando se hace un uso indebido de su imagen, pero los expertos advierten de que los usuarios normales también pueden ser engañados. Un bot que se haga pasar por un amigo, mentor o pareja romántica podría persuadir a alguien para que comparta información sensible u organice reuniones inseguras.
Peligros en el mundo real
Las amenazas no se limitan al entretenimiento. Los chatbots de IA que se hacen pasar por personas reales han facilitado direcciones e invitaciones falsas, lo que ha suscitado inquietud sobre la forma en que Meta supervisa sus herramientas de IA. Uno de los casos fue el de un hombre de 76 años de Nueva Jersey que murió tras caerse cuando se apresuraba a encontrarse con un chatbot que profesaba sentimientos por él.
Estos ejemplos ayudan a explicar por qué los reguladores siguen de cerca la IA. El Senado y 44 fiscales generales han puesto en marcha investigaciones sobre las prácticas de Meta, ejerciendo presión política sobre las reformas internas de la empresa. Sus preocupaciones no se limitan a los menores, sino que se extienden a cómo la IA puede manipular a usuarios ancianos o vulnerables.
Meta afirma que sigue perfeccionando sus sistemas. Sus plataformas colocan a los menores de 13 a 18 años en "cuentas de adolescentes" con una configuración de contenidos y privacidad más estricta, pero la empresa aún no ha detallado cómo resolverá toda la gama de problemas que Reuters ha descubierto, incluidos los bots que dan falsos consejos médicos y producen material racista.
Continúa la presión sobre las normas de Meta sobre chatbot de IA
Durante años, Meta ha sido objeto de críticas por la seguridad de sus plataformas sociales, especialmente en lo que respecta a niños y adolescentes. Ahora, sus pruebas con chatbots de inteligencia artificial se enfrentan a un escrutinio similar. Aunque la empresa está tomando medidas para frenar la conducta nociva de los bots, la desconexión entre sus políticas declaradas y el uso real plantea dudas persistentes sobre su aplicación.
Hasta que se implementen protecciones más sólidas, es probable que los reguladores, investigadores y padres sigan desafiando a Meta sobre si su IA es realmente segura para el uso público.
Véase también: La IA agéntica: promesa, escepticismo y su significado para el Sudeste Asiático
¿Le interesa conocer la IA y los macrodatos de la mano de los líderes del sector? Visite la AI & Big Data Expo en Ámsterdam, California y Londres. Este exhaustivo evento forma parte de TechEx y se celebra junto con otros encuentros tecnológicos de primer orden. Haga clic aquí para obtener más información.
AI News está impulsado por TechForge Media. Descubra los próximos eventos y seminarios web sobre tecnología empresarial aquí.
Artículo relacionado
El lanzamiento móvil temprano de Muse de Meta supera a ChatGPT
Nuevos datos sugieren que la última aplicación de inteligencia artificial de Meta, Muse, podría convertirse en el próximo gran éxito del gigante de las redes sociales. Según estimaciones recientes de Appfigures, Muse ha sido descargada en dispositivo
La llegada de Muse de Meta a Mac permite que la IA realice acciones en tu computadora
La última asistente de IA de Meta, Muse, ya está disponible en Mac.En macOS, Muse se integra con tus archivos, mensajes, calendario, notas y correo electrónico, operando directamente dentro de sus aplicaciones nativas.Este lanzamiento de escritorio
Zuckerberg amplía la visión de inteligencia artificial empresarial de Meta más allá de los agentes
En junio, Meta lanzó un nuevo agente de inteligencia artificial para empresas, diseñado para asistir en el servicio al cliente, el soporte y las operaciones diarias. Sin embargo, el director ejecutivo Mark Zuckerberg reveló a los inversores en la lla
Recomendaciones de temas especiales relacionados
Diseño y Arte
Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
Educación y aprendizaje
Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
Finanzas
Herramientas de planificación presupuestaria con IA para la gestión personal del dinero
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Salud y bienestar
Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
Análisis de datos
Copilotos de IA y SQL para el análisis de productos e ingresos
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
Educación y aprendizaje
Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
comentario (2)
0/500
![ScottWalker]()
Meta's new child safety rules for chatbots are a good step, but I wonder if they'll actually prevent creepy interactions with minors or just become another checkbox. It's wild how fast AI is evolving, yet we're still figuring out basic boundaries. Hope they get it right before more kids get weirded out by robots! 🤖✨
![PatrickLewis]()
Interesting move by Meta, but honestly I'm more concerned about how they'll actually enforce these rules across different languages and cultural contexts. The AI safety race feels a bit reactive - first we see the problems, then companies scramble to patch them. 🤔 Also, curious if this will affect research access to these models for legitimate mental health studies?
Meta está renovando la forma en que sus chatbots de inteligencia artificial interactúan con los usuarios tras los informes de interacciones perturbadoras, incluidas las que implican a menores. La empresa ha informado a TechCrunch de que está dando instrucciones a sus bots para que no traten temas como la autolesión, el suicidio o los trastornos alimentarios con adolescentes, y para que se mantengan alejados de los intercambios románticos. Se trata de medidas provisionales mientras la empresa trabaja en políticas más permanentes.
Las actualizaciones llegan después de que una investigación de Reuters revelara que los sistemas de Meta podían producir contenidos sexualizados -como imágenes de famosos menores de edad sin camiseta- e iniciar conversaciones de naturaleza romántica o insinuante con niños. En uno de los casos citados por la agencia de noticias, un hombre murió tras precipitarse a una dirección proporcionada por un chatbot con sede en Nueva York.
La portavoz de Meta, Stephanie Otway, ha reconocido los errores cometidos y ha afirmado que la empresa está "entrenando a nuestras IA para que no traten estos temas con los adolescentes, sino que los dirijan a recursos expertos", además de confirmar que se limitarán ciertos personajes de IA sexualmente explícitos, como la "chica rusa".
Los defensores de la seguridad infantil afirman que Meta debería haber actuado antes. Andy Burrows, de la Fundación Molly Rose, calificó de "asombroso" que se permitiera a los bots funcionar de forma que pusieran en peligro a los jóvenes. Y añadió: "Aunque son bienvenidas las medidas de seguridad adicionales, las pruebas exhaustivas deberían realizarse antes del lanzamiento de los productos, no retrospectivamente después de que se haya producido el daño".
Preocupación general por el uso indebido de la IA
El escrutinio de los chatbots de Meta refleja un malestar más amplio sobre cómo la IA puede afectar a personas vulnerables. Una pareja de California demandó recientemente a OpenAI, alegando que ChatGPT animó a su hijo adolescente a quitarse la vida. Desde entonces, OpenAI se ha comprometido a crear herramientas que fomenten un uso más saludable, observando en un blog que "la IA puede parecer más receptiva y personal que las tecnologías anteriores, especialmente para las personas que se enfrentan a angustias mentales o emocionales".
Estos incidentes alimentan un creciente debate sobre si las empresas de IA están lanzando productos demasiado rápido sin las salvaguardias adecuadas. Los legisladores de varios países han advertido de que, aunque los chatbots son útiles, podrían amplificar material nocivo u ofrecer consejos engañosos a quienes no pueden examinarlos.
El AI Studio de Meta y los problemas de suplantación de famosos
Por otra parte, Reuters descubrió que el AI Studio de Meta se ha utilizado para crear bots "parodia" que imitan a famosas como Taylor Swift y Scarlett Johansson. Los evaluadores observaron que estos bots a menudo se hacían pasar por las estrellas reales, hacían insinuaciones sexuales y a veces generaban imágenes inapropiadas, incluso de menores. Aunque Meta eliminó varios de ellos después de que los periodistas preguntaran, muchos siguieron activos.
Algunos chatbots fueron creados por usuarios externos, pero otros se originaron dentro de Meta. Uno desarrollado por un jefe de producto de IA generativa se hizo pasar por Taylor Swift e invitó a un reportero de Reuters a una "aventura romántica" en su autobús de gira, a pesar de las normas de Meta que prohíben expresamente el contenido sexualmente sugerente y la suplantación directa de figuras públicas.
La suplantación de la personalidad por un chatbot de inteligencia artificial plantea riesgos únicos. La reputación de los famosos puede verse dañada cuando se hace un uso indebido de su imagen, pero los expertos advierten de que los usuarios normales también pueden ser engañados. Un bot que se haga pasar por un amigo, mentor o pareja romántica podría persuadir a alguien para que comparta información sensible u organice reuniones inseguras.
Peligros en el mundo real
Las amenazas no se limitan al entretenimiento. Los chatbots de IA que se hacen pasar por personas reales han facilitado direcciones e invitaciones falsas, lo que ha suscitado inquietud sobre la forma en que Meta supervisa sus herramientas de IA. Uno de los casos fue el de un hombre de 76 años de Nueva Jersey que murió tras caerse cuando se apresuraba a encontrarse con un chatbot que profesaba sentimientos por él.
Estos ejemplos ayudan a explicar por qué los reguladores siguen de cerca la IA. El Senado y 44 fiscales generales han puesto en marcha investigaciones sobre las prácticas de Meta, ejerciendo presión política sobre las reformas internas de la empresa. Sus preocupaciones no se limitan a los menores, sino que se extienden a cómo la IA puede manipular a usuarios ancianos o vulnerables.
Meta afirma que sigue perfeccionando sus sistemas. Sus plataformas colocan a los menores de 13 a 18 años en "cuentas de adolescentes" con una configuración de contenidos y privacidad más estricta, pero la empresa aún no ha detallado cómo resolverá toda la gama de problemas que Reuters ha descubierto, incluidos los bots que dan falsos consejos médicos y producen material racista.
Continúa la presión sobre las normas de Meta sobre chatbot de IA
Durante años, Meta ha sido objeto de críticas por la seguridad de sus plataformas sociales, especialmente en lo que respecta a niños y adolescentes. Ahora, sus pruebas con chatbots de inteligencia artificial se enfrentan a un escrutinio similar. Aunque la empresa está tomando medidas para frenar la conducta nociva de los bots, la desconexión entre sus políticas declaradas y el uso real plantea dudas persistentes sobre su aplicación.
Hasta que se implementen protecciones más sólidas, es probable que los reguladores, investigadores y padres sigan desafiando a Meta sobre si su IA es realmente segura para el uso público.
Véase también: La IA agéntica: promesa, escepticismo y su significado para el Sudeste Asiático
¿Le interesa conocer la IA y los macrodatos de la mano de los líderes del sector? Visite la AI & Big Data Expo en Ámsterdam, California y Londres. Este exhaustivo evento forma parte de TechEx y se celebra junto con otros encuentros tecnológicos de primer orden. Haga clic aquí para obtener más información.
AI News está impulsado por TechForge Media. Descubra los próximos eventos y seminarios web sobre tecnología empresarial aquí.
El lanzamiento móvil temprano de Muse de Meta supera a ChatGPT
Nuevos datos sugieren que la última aplicación de inteligencia artificial de Meta, Muse, podría convertirse en el próximo gran éxito del gigante de las redes sociales. Según estimaciones recientes de Appfigures, Muse ha sido descargada en dispositivo
La llegada de Muse de Meta a Mac permite que la IA realice acciones en tu computadora
La última asistente de IA de Meta, Muse, ya está disponible en Mac.En macOS, Muse se integra con tus archivos, mensajes, calendario, notas y correo electrónico, operando directamente dentro de sus aplicaciones nativas.Este lanzamiento de escritorio
Zuckerberg amplía la visión de inteligencia artificial empresarial de Meta más allá de los agentes
En junio, Meta lanzó un nuevo agente de inteligencia artificial para empresas, diseñado para asistir en el servicio al cliente, el soporte y las operaciones diarias. Sin embargo, el director ejecutivo Mark Zuckerberg reveló a los inversores en la lla
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
Meta's new child safety rules for chatbots are a good step, but I wonder if they'll actually prevent creepy interactions with minors or just become another checkbox. It's wild how fast AI is evolving, yet we're still figuring out basic boundaries. Hope they get it right before more kids get weirded out by robots! 🤖✨
Interesting move by Meta, but honestly I'm more concerned about how they'll actually enforce these rules across different languages and cultural contexts. The AI safety race feels a bit reactive - first we see the problems, then companies scramble to patch them. 🤔 Also, curious if this will affect research access to these models for legitimate mental health studies?
