Meta restringe el acceso de los adolescentes a los personajes generados por IA antes de la actualización

Meta ha anunciado una suspensión global del acceso de los adolescentes a sus personajes de IA en todas sus aplicaciones. La empresa ha aclarado a TechCrunch que esto no supone el abandono de la función, sino un paso hacia el desarrollo de una versión actualizada diseñada específicamente para los usuarios más jóvenes.

Esta decisión se produce pocos días antes de que comience un juicio en Nuevo México, donde Meta se enfrenta a acusaciones de no proteger a los niños de la explotación sexual en sus plataformas. Un informe reciente de Wired también señalaba los esfuerzos de Meta por limitar la investigación judicial sobre el impacto de las redes sociales en la salud mental de los adolescentes.

El pasado mes de octubre, Meta presentó un avance de los controles parentales para sus personajes de IA, que permiten a los tutores supervisar los temas y bloquear el acceso a personajes específicos, con la opción de desactivar los chats por completo. Aunque estaba previsto que estas funciones se lanzaran este año, Meta está desactivando temporalmente todo el acceso de los adolescentes a los personajes de IA mientras trabaja en la nueva versión.

La empresa afirmó que los comentarios de los padres, que buscaban una mayor comprensión y control sobre las interacciones de sus hijos adolescentes con la IA, influyeron directamente en este cambio de política.

Meta ha ido endureciendo progresivamente las restricciones sobre la exposición de los adolescentes al contenido de IA. También en octubre, introdujo controles parentales en Instagram, inspirados en las clasificaciones de películas PG-13, para adaptar la experiencia de los adolescentes con la IA restringiendo el acceso a temas como la violencia extrema, la desnudez y el consumo explícito de drogas.

«A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista. Esto se aplicará a cualquier persona que nos haya facilitado una fecha de nacimiento de adolescente, así como a aquellas personas que afirmen ser adultas pero de las que sospechamos que son adolescentes según nuestra tecnología de predicción de edad», afirmó la empresa en una entrada de blog actualizada.

Meta añadió que los próximos personajes de IA incluirán controles parentales integrados. Estos nuevos personajes están diseñados para ofrecer respuestas adecuadas a su edad, centrándose en temas apropiados como la educación, los deportes y las aficiones.

Las plataformas de redes sociales se enfrentan a un intenso escrutinio regulatorio. Más allá del caso de Nuevo México, Meta se prepara para otro juicio la próxima semana, en el que se le acusa de contribuir a la adicción a las redes sociales. Se espera que el director ejecutivo, Mark Zuckerberg, testifique una vez que comience el juicio.

La presión se extiende más allá de las redes sociales a las empresas de IA, que también han adaptado sus servicios para los usuarios más jóvenes a raíz de las demandas. En octubre, Character.AI, que permite a los usuarios chatear con diversos avatares de IA, prohibió las conversaciones abiertas con chatbots para los menores de 18 años, anunciando posteriormente planes para historias interactivas dirigidas a los niños. Recientemente, OpenAI implementó nuevas normas de seguridad para adolescentes en ChatGPT y comenzó a utilizar la predicción de edad para aplicar restricciones de contenido.

Corrección: Esta publicación se ha actualizado para aclarar que la nueva versión de los personajes de IA será accesible para todo el mundo, no solo para adolescentes, cuando se lance. Incluirá controles parentales.