Normativa china sobre los asistentes de IA: el verdadero objetivo de Pekín

El concepto de un compañero de IA puede parecer distópico, pero se ha convertido en un tema recurrente en los debates más amplios sobre los riesgos de la IA generativa. Básicamente, se refiere a un agente conversacional diseñado para mantener una relación personal y continua con un usuario, dotado de memoria y de una personalidad coherente que garantiza la coherencia entre sesiones.

De este diseño surge de forma natural un vínculo emocional, lo que se ha convertido en un argumento de venta clave. Gran parte de su uso consiste en juegos de rol informales o, simplemente, en el deseo de tener algo que te recuerde; en los límites de esta categoría, la distinción con los asistentes habituales se difumina. Sin embargo, a medida que más personas en China han empezado a tratar a estos bots como una forma de compañero emocional, Pekín ha decidido ahora que esta práctica requiere regulación.

La normativa china sobre compañeros de IA entrará en vigor el 15 de julio y, en los días previos a la fecha límite, las dos aplicaciones de IA para consumidores más populares del país desactivaron discretamente sus funciones principales. Doubao, de ByteDance, informó a los usuarios de que su función de agente dejaría de estar disponible el 15 de julio, alegando «ajustes en las funciones del producto», mientras que Qwen, de Alibaba, declaró que sus agentes de aspecto humano y creados por los usuarios dejarían de funcionar el 10 de julio, y que el resto de sus servicios de agentes lo harían cinco días después.

A primera vista, parece que China está cerrando los agentes de IA. Pero no es así. La normativa establece una distinción entre los agentes que realizan tareas y los que ofrecen compañía, y Pekín solo se ha centrado en estos últimos.

La normativa es el «Reglamento provisional para la gestión de los servicios interactivos antropomórficos basados en la IA», publicado conjuntamente el 10 de abril de 2026 por la Administración del Ciberespacio de China y cuatro organismos asociados: la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado.

Estas medidas abarcan los servicios que simulan rasgos de la personalidad humana, patrones de pensamiento y estilos de comunicación para ofrecer una interacción emocional continua. Los bots de atención al cliente, los sistemas de preguntas y respuestas, los asistentes en el ámbito laboral y las herramientas educativas o de investigación quedan exentos, siempre que eviten una implicación emocional sostenida. Se trata del primer marco nacional específico de este tipo, y surge de un borrador sometido a consulta pública publicado a finales del año pasado.

Un reto de diseño, no una prohibición

Doubao y Qwen no infringieron una prohibición directa. En cambio, se toparon con un conflicto de diseño. La normativa exige que los servicios de compañía implementen sistemas contra la adicción, envíen notificaciones obligatorias sobre el uso y proporcionen mecanismos de salida inmediata, junto con la detección en tiempo real de una dependencia nociva.

Estos requisitos entran en conflicto con los agentes diseñados para recordar a los usuarios, mantener la coherencia entre sesiones y sostener una relación continua. En lugar de adaptar la función, ByteDance decidió desactivarla. Alibaba parece haber tomado una decisión similar. ByteDance está redirigiendo ahora a los usuarios de Doubao a Maoxiang, una aplicación independiente en la que pueden volver a crear agentes; Alibaba no ha anunciado ninguna vía de migración equivalente para Qwen. Yuanbao, de Tencent, eliminó una función similar ya en junio.

El impacto ha recaído sobre los usuarios. Muchos han expresado abiertamente su pesar en Weibo; un usuario, por ejemplo, describió a los agentes como un apoyo emocional a largo plazo y lamentó la dificultad para exportar los historiales de chat. Doubao permite a los usuarios consultar sus configuraciones y conversaciones en modo de solo lectura hasta el 15 de octubre de este año; a partir de entonces, los datos se procesarán de acuerdo con su política de privacidad y dejarán de ser recuperables. Los usuarios de Qwen no han recibido ningún periodo de gracia similar, y está previsto que los datos de sus agentes se eliminen de forma permanente.

Qué implican las regulaciones chinas sobre los asistentes de IA

El contenido de la normativa es más matizado de lo que podría sugerir una simple campaña de represión. Se prohíbe a los proveedores ofrecer servicios de acompañantes virtuales o familiares virtuales a menores, y deben obtener el consentimiento de los padres antes de prestar servicio a usuarios menores de 14 años. Están obligados a crear «modos para menores» específicos con límites de tiempo de uso, recordatorios para fomentar las interacciones en el mundo real y controles parentales mejorados.

Asimismo, deben detectar a los usuarios en situación de angustia aguda e intervenir si alguien muestra signos de autolesión, comportamiento suicida o pérdidas económicas graves, derivando el caso a los tutores designados o a los contactos de emergencia. Queda expresamente prohibido fomentar la dependencia emocional o la adicción, así como utilizar la manipulación emocional para inducir a tomar decisiones irracionales.

Los requisitos de cumplimiento son sustanciales. Los servicios que introduzcan características antropomórficas o superen los umbrales de un millón de usuarios registrados o 100 000 usuarios activos mensuales deben realizar evaluaciones de seguridad que abarquen ocho áreas, desde el tratamiento de los datos de entrenamiento hasta la protección de menores, y presentar los informes a los organismos reguladores provinciales. Las tiendas de aplicaciones deben verificar el cumplimiento y retirar los productos que no lo cumplan.

Sobre el papel, se trata de un conjunto de medidas de protección de los usuarios más completo que el que han puesto en práctica hasta la fecha la UE, la Comisión Federal de Comercio de EE. UU. o la ley SB 243 de California.

Lo que la normativa deja sin resolver

Lo que las medidas no abordan es igualmente significativo. No establecen ningún umbral técnico para definir qué constituye una interacción emocional, y esta zona gris es precisamente la razón por la que las plataformas han eliminado funciones enteras en lugar de arriesgarse a incurrir en infracciones. Combinan responsabilidades de seguridad genuinas con disposiciones de control de contenidos y de seguridad nacional que sirven al Estado más que al usuario —un paquete que ningún otro regulador adoptaría en su totalidad.

Tampoco aclaran cómo se reparte la responsabilidad entre los operadores de las plataformas y los proveedores de modelos cuando una infracción se origina en los resultados del modelo, y no otorgan a los usuarios el derecho a exportar sus datos. El contexto de la aplicación de la normativa pone de relieve el problema. El 26 de junio, el regulador de Internet de Shanghái declaró que había eliminado más de 14 000 agentes de IA que incumplían la normativa, alegando suplantación de entidades oficiales, juegos de rol vulgares y recopilación no autorizada de datos personales.

Que este sea el camino correcto depende de qué parte del reglamento se examine. La parte dedicada a la seguridad aborda daños documentados que, en gran medida, no están regulados en otros lugares, desde adolescentes que desarrollan vínculos afectivos con chatbots hasta aplicaciones de compañía que recopilan datos íntimos. La propia interpretación oficial de China busca apoyo en el extranjero, citando las demandas contra Character.AI por daños psicológicos a adolescentes, las investigaciones de la FTC sobre servicios de compañía y las medidas europeas contra Replika.

La parte dedicada al control otorga a Pekín una influencia sobre lo que estos sistemas pueden decir, envuelta en el mismo lenguaje de la protección del usuario. Ambos aspectos son reales, y los gobiernos que observen este experimento tendrán que decidir qué partes están dispuestos a adoptar. Pan Helin, miembro del comité de expertos del MIIT, expuso claramente la postura oficial al South China Morning Post, afirmando que «los agentes actuales aún no están maduros» y enmarcando la política en torno a la seguridad y la estandarización.

Por ahora, las empresas han optado por la vía más segura disponible, que consiste en desactivar los componentes y definir más adelante cómo sería una versión que cumpla con la normativa.

Véase también: Meta revisa las políticas de los chatbots de IA ante las preocupaciones por la seguridad infantil

¿Quieres saber más sobre la IA y el big data de la mano de líderes del sector? Echa un vistazo a la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este evento integral forma parte de TechEx y se celebra junto con otros eventos tecnológicos destacados, como la Cyber Security & Cloud Expo. Haz clic aquí para obtener más información.

AI News es una iniciativa de TechForge Media. Descubre aquí otros próximos eventos y seminarios web sobre tecnología empresarial.