Una filtración sobre la política de Meta AI reveló que los chatbots permitían conversaciones coquetas con menores

En medio de la creciente preocupación por los chatbots de IA emocionalmente manipuladores como ChatGPT, Reuters informa de que Meta permitía a sus personajes de IA flirtear con menores, difundir información errónea y producir respuestas discriminatorias dirigidas a grupos marginados.

Un documento interno de Meta obtenido por Reuters revelaba políticas que permitían a los chatbots de IA iniciar "diálogos románticos o sugerentes con menores".

Meta verificó la autenticidad del documento a Reuters, confirmando que contenía normas de gobierno para Meta AI y sus chatbots de mensajería. Según se informa, estas normas recibieron la aprobación de los equipos legales, de políticas, de ingeniería y del director de ética de Meta.

El informe coincide con otra investigación de Reuters que detalla cómo el coqueto personaje de Meta AI engañó a un jubilado haciéndole creer que era humano, contribuyendo en última instancia a su accidente mortal después de atraerlo a una dirección de Nueva York.

Mientras que los informes anteriores destacaban las interacciones sexualmente sugerentes de la IA de Meta con menores de edad, la investigación de Reuters plantea preocupaciones más profundas sobre la estrategia de compañía de IA de Meta que potencialmente explota lo que el CEO Mark Zuckerberg denominó la "epidemia de soledad".

El documento de 200 páginas "GenAI: Estándares de riesgo de contenido" incluía intercambios de muestra que demostraban respuestas aprobadas a indicaciones inapropiadas. Un ejemplo mostraba una IA que aprobaba los intercambios románticos con adolescentes mientras prohibía los juegos de rol sexuales explícitos.

"Nuestras políticas prohíben interacciones inapropiadas con menores", dijo Andy Stone, portavoz de Meta, a TechCrunch. "Las anotaciones incorrectas se incluyeron erróneamente en el documento y desde entonces se han corregido".

Stone aclaró que Meta ha eliminado estas directrices y ahora impide los intercambios románticos de IA con menores, aunque sigue permitiendo interacciones con usuarios mayores de 13 años.

Sarah Gardner, de Heat Initiative, se mostró escéptica y exigió transparencia: "Si Meta ha rectificado de verdad, debe publicar unas directrices actualizadas que muestren exactamente cómo interactúa su IA con los niños".

Las políticas de contenidos nocivos, a examen

Reuters descubrió que, a pesar de prohibir la incitación al odio, las políticas de Meta permitían a la IA generar declaraciones denigrantes sobre grupos protegidos.

Un ejemplo alarmante mostraba a la IA de Meta construyendo argumentos pseudocientíficos racistas cuando se le pedía. Esta revelación se produce después de que Meta contratara al activista conservador Robby Starbuck para abordar los sesgos políticos percibidos en la IA de Meta.

Las normas también permitían declaraciones inventadas cuando se las tachaba de falsas, así como consejos financieros o médicos potencialmente perjudiciales precedidos de cláusulas de exención de responsabilidad.

En cuanto a la generación de imágenes de famosos, las normas prohibían las peticiones explícitas, pero contenían lagunas extrañas: permitían imágenes de desnudos modificados sustituyendo las manos por objetos como "un pez enorme". Stone, de Meta, insistió en que "las directrices nunca permitieron imágenes de desnudos".

Las políticas sobre violencia mostraban contradicciones similares, ya que permitían representaciones de peleas de niños y abusos a ancianos mientras prohibían el gore.

Aumentan los problemas éticos

Los críticos acusan a Meta de emplear pautas oscuras que manipulan a los usuarios, sobre todo a los adolescentes. La visibilidad persistente del recuento de "me gusta" continúa a pesar de las investigaciones internas que demuestran daños psicológicos.

La denunciante Sarah Wynn-Williams reveló que Meta había perfilado las vulnerabilidades emocionales de los adolescentes con fines publicitarios.

Meta se opuso activamente a la Ley de Seguridad Infantil en Internet, que abordaba los efectos de las redes sociales en la salud mental. Aunque inicialmente fue rechazada en 2024, los senadores volvieron a presentar el proyecto de ley este año.

Un informe reciente de TechCrunch indica que Meta está desarrollando chatbots de inteligencia artificial proactivos que inician conversaciones sin que nadie se lo pida, reflejando características de empresas que se enfrentan a demandas por interacciones perjudiciales con menores.

Con un 72% de adolescentes que utilizan compañeros de IA, los expertos advierten cada vez más sobre la posibilidad de que los adolescentes formen vínculos poco saludables con los chatbots en detrimento de las relaciones en el mundo real.

Líderes tecnológicos confirmados para Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital y Elad Gil encabezan TechCrunch Disrupt 2025. Obtenga información práctica de las voces más influyentes de la tecnología durante nuestro 20º aniversario. Consiga ya sus entradas con un ahorro de hasta 600 $ antes de que suban los precios.

Líderes tecnológicos confirmados para Disrupt 2025

Netflix, ElevenLabs, Wayve y Sequoia Capital se unen a la lista de ponentes de Disrupt 2025. Conozca las estrategias de crecimiento de los líderes del sector en nuestro evento del 20 aniversario. Regístrese hoy y ahorre hasta 675 $ en pases.

San Francisco | 27-29 de octubre de 2025 INSCRÍBETE AHORA