La Autoridad de Regulación del Mercado de China publica unas directrices sobre ética y seguridad en materia de IA para modelos a gran escala

Recientemente, el Comité Técnico Nacional de Normalización de la Ciberseguridad de China publicó oficialmente la «Guía sobre prácticas éticas y de seguridad para aplicaciones de inteligencia artificial (Versión 1.0)». Este documento fundamental ha sido redactado conjuntamente por líderes del sector e instituciones de investigación, entre los que se incluyen Alibaba, Huawei y DeepSeek. Supone una nueva etapa para la gobernanza de la ética y la seguridad de la IA en China, pasando de una «política de alto nivel» a la «aplicación de normas técnicas».

Enfoque principal del documento:

Esta guía sirve como referencia técnica basada en principios. Su objetivo es proporcionar un marco ético y de seguridad aplicable para todas las partes interesadas de la cadena industrial de la IA, ayudándolas a abordar los retos de seguridad cada vez más importantes en las aplicaciones de IA.

Las tres dimensiones de la guía: un ciclo de seguridad completo

La «Guía» segmenta claramente el ciclo de vida de la IA en tres etapas críticas: desarrollo de aplicaciones, prestación de servicios y uso de aplicaciones. Propone requisitos de seguridad distintos para cada fase:

Fase de desarrollo: gobernanza de las fuentes. Exige explícitamente a los desarrolladores que integren mecanismos de revisión ética en la limpieza de datos para el entrenamiento de modelos, que implementen un diseño consciente de la seguridad en la arquitectura de los modelos y que configuren de forma segura los entornos computacionales.

Fase de servicio: control de procesos. Abordando el problema frecuente de las «alucinaciones de la IA» en los modelos de gran tamaño, exige que los proveedores de servicios establezcan medidas eficaces de supervisión y control de riesgos para garantizar la autenticidad y fiabilidad del contenido generado.

Fase de uso: límites de los usuarios. Define los límites legales y de cumplimiento para las aplicaciones de los usuarios finales, salvaguardando la privacidad de los usuarios y previniendo el uso indebido de la tecnología de IA.

¿Por qué es tan importante esta «guía»?

Los expertos del sector señalan que la implementación de este documento tiene un gran valor para el sector:

Aclaración de la responsabilidad: Anteriormente, la responsabilidad solía ser ambigua cuando el contenido de la IA se volvía incontrolable o surgían disputas éticas. La guía establece normas claras para cada etapa, instando a las empresas a cumplir con las obligaciones de seguridad «previas a la aceptación» antes de implementar los modelos.

Abordar el reto de las «alucinaciones»: Para hacer frente al punto débil de todo el sector que suponen los resultados incontrolados de la IA (alucinaciones), la guía es la primera a nivel normativo en proponer requisitos de gestión. Esto incentiva directamente a las empresas a desarrollar modelos fundamentales más robustos y capaces de verificar los hechos.

Fomento de un ecosistema seguro: La participación de empresas como Alibaba, Huawei y DeepSeek refleja un consenso del sector en que «la seguridad es un requisito previo para el desarrollo de la IA». Esto no solo contribuye a perfeccionar el marco de gobernanza de la IA en China, sino que también eleva el prestigio de las empresas chinas de IA en los debates sobre la gobernanza tecnológica a nivel mundial.

Impacto en el sector: el paso del «crecimiento rápido» a la «madurez normativa»

Con la publicación de estas directrices, el sector de la IA está llegando a un nuevo punto de inflexión:

El cumplimiento normativo como «puerta de entrada»: para las empresas centradas en aplicaciones de IA, las auditorías éticas y de seguridad se convertirán en un control obligatorio en el proceso de lanzamiento de proyectos.

Nuevas direcciones para el avance tecnológico: Los modelos fundamentales que puedan mitigar eficazmente las alucinaciones y garantizar una sólida seguridad ética ganarán mayor aceptación en el mercado frente a los modelos que priorizan únicamente la escala de los parámetros.

Los expertos coinciden ampliamente en que esta guía no solo aborda de manera oportuna las lagunas actuales en la gobernanza de la IA, sino que también sienta una base sólida para el crecimiento sostenible y a largo plazo de la industria de la IA en China. Para los profesionales, esto significa que el desarrollo y la aplicación de la IA ya no se llevarán a cabo sin control, sino que avanzarán hacia una «sociedad inteligente» de mayor calidad dentro de los marcos legales y éticos establecidos.