Una guía por la nueva norma de seguridad de la IA del ETSI

La norma ETSI EN 304 223 establece los requisitos de seguridad fundamentales para la inteligencia artificial que las organizaciones deben integrar en sus estructuras de gobernanza.

A medida que las empresas integran el aprendizaje automático en sus flujos de trabajo principales, esta norma europea ofrece disposiciones específicas para proteger los modelos y sistemas de IA. Se trata de la primera norma europea de aplicación mundial en materia de ciberseguridad de la IA, aprobada formalmente por las organizaciones nacionales de normalización, lo que refuerza su credibilidad en los mercados internacionales.

Como referencia complementaria a la Ley de IA de la UE, esta norma reconoce que los sistemas de IA conllevan riesgos únicos —como el envenenamiento de datos, la ofuscación de modelos y la inyección indirecta de prompts— que las prácticas convencionales de seguridad del software suelen pasar por alto. Se aplica a las redes neuronales profundas, la IA generativa y los sistemas predictivos básicos, excluyendo explícitamente solo aquellos utilizados exclusivamente para la investigación académica.

La norma del ETSI define la cadena de responsabilidad en materia de seguridad de la IA

Un reto persistente en la implementación de la IA en las empresas es la asignación de la responsabilidad del riesgo. La norma ETSI aborda esto delimitando tres funciones técnicas fundamentales: desarrolladores, operadores de sistemas y custodios de datos.

En muchas organizaciones, estos límites se vuelven difusos. Por ejemplo, una empresa de servicios financieros que ajusta un modelo de código abierto para la detección de fraudes cumple los requisitos tanto de desarrollador como de operador de sistemas. Esta doble función impone responsabilidades estrictas: la empresa debe proteger el entorno de implementación al tiempo que documenta la procedencia de los datos de entrenamiento y las auditorías del diseño del modelo.

La inclusión explícita de los «custodios de datos» como un grupo de partes interesadas independiente afecta directamente a los directores de datos y análisis (CDAO). Estas personas gestionan los permisos y la integridad de los datos, una función que ahora conlleva claras obligaciones de seguridad. Los custodios deben verificar que el uso previsto del sistema se ajusta a la sensibilidad de sus datos de entrenamiento, incorporando de manera efectiva un guardián de la seguridad dentro de los procesos de gestión de datos.

La norma ETSI sobre IA hace hincapié en que la seguridad no debe ser una cuestión secundaria que se añada solo durante la implementación. En la fase de diseño, las organizaciones deben realizar modelos de amenazas que tengan en cuenta los ataques específicos de la IA, como la inferencia de pertenencia y la ofuscación de modelos.

Uno de los requisitos exige que los desarrolladores limiten la funcionalidad para minimizar la superficie de ataque. Por ejemplo, si un sistema emplea un modelo multimodal pero solo procesa texto, las modalidades no utilizadas —como el procesamiento de imágenes o audio— se convierten en riesgos que deben mitigarse. Esto empuja a los responsables técnicos a replantearse la costumbre habitual de implementar modelos base grandes y de propósito general cuando bastaría con un modelo más pequeño y especializado.

La norma también exige una gestión rigurosa de los activos. Los desarrolladores y los operadores de sistemas deben mantener un inventario detallado de los activos, que abarque las interdependencias y la conectividad. Esto facilita la detección de la IA oculta: los responsables de TI no pueden proteger modelos de los que no tienen conocimiento. Además, la norma exige planes de recuperación ante desastres diseñados específicamente para ataques de IA, lo que garantiza que se pueda restaurar un «estado conocido como bueno» si un modelo se ve comprometido.

La seguridad de la cadena de suministro plantea un reto directo para las organizaciones que dependen de proveedores externos o de repositorios de código abierto. Según la norma ETSI, si un operador de sistemas opta por utilizar modelos o componentes de IA mal documentados, debe justificar esa elección y documentar los riesgos de seguridad que conlleva.

En la práctica, los equipos de compras ya no pueden aceptar soluciones de «caja negra». Los desarrolladores deben proporcionar hash criptográficos de los componentes del modelo para verificar su autenticidad. Cuando los datos de entrenamiento se obtienen de fuentes públicas —algo habitual en los grandes modelos de lenguaje—, los desarrolladores deben registrar la URL de origen y la marca de tiempo de adquisición. Este registro de auditoría sirve de apoyo a las investigaciones posteriores a los incidentes, especialmente a la hora de determinar si un modelo se vio afectado por el envenenamiento de datos durante el entrenamiento.

Las empresas que proporcionan API a clientes externos deben implementar controles para contrarrestar los ataques específicos de la IA, como la limitación de la tasa de solicitudes, para evitar que los adversarios realicen ingeniería inversa del modelo o sature las defensas para inyectar datos contaminados.

Este enfoque de ciclo de vida continúa en la fase de mantenimiento, donde la norma considera las actualizaciones importantes —como el reentrenamiento con nuevos datos— como el despliegue de una nueva versión. Según la norma ETSI sobre IA, dichas actualizaciones requieren nuevas pruebas y evaluaciones de seguridad.

La supervisión continua también se sistematiza. Los operadores del sistema deben analizar los registros no solo para comprobar el tiempo de actividad, sino también para identificar la «deriva de datos» o los cambios graduales de comportamiento que podrían indicar una brecha de seguridad. Esto transforma la supervisión de la IA de una métrica de rendimiento a una función de seguridad.

La norma también abarca la fase de «fin de vida útil». Cuando se retira o transfiere un modelo, las organizaciones deben recurrir a custodios de datos para garantizar la eliminación segura de los datos y los detalles de configuración. Este requisito evita que la propiedad intelectual sensible o los datos de entrenamiento se filtren a través de hardware desechado o instancias en la nube olvidadas.

Supervisión ejecutiva y responsabilidades de gobernanza

El cumplimiento de la norma ETSI EN 304 223 requiere revisar los programas actuales de formación en ciberseguridad. La norma exige una formación específica para cada función, garantizando que los desarrolladores comprendan la codificación segura para la IA, mientras que los empleados en general se mantengan alertas ante amenazas como la ingeniería social a través de los resultados de la IA.

«La norma ETSI EN 304 223 marca un hito significativo en la creación de una base sólida y compartida para la seguridad de los sistemas de IA», afirmó Scott Cadzow, presidente del Comité Técnico de ETSI para la Seguridad de la Inteligencia Artificial.

«A medida que la IA se integra cada vez más en servicios e infraestructuras críticos, no se puede subestimar el valor de unas directrices claras y prácticas que reconozcan tanto la complejidad de estas tecnologías como las realidades de su implementación. El esfuerzo que hay detrás de este marco surge de una amplia colaboración, lo que permite a las organizaciones confiar en sistemas de IA que son resilientes, fiables y seguros por diseño».

La adopción de las bases descritas en la norma de seguridad de la IA del ETSI crea un marco para una innovación más segura. A través de registros de auditoría documentados, funciones bien definidas y transparencia en la cadena de suministro, las organizaciones pueden reducir los riesgos de la adopción de la IA al tiempo que construyen una postura defendible ante futuras revisiones normativas.

Un próximo informe técnico (ETSI TR 104 159) aplicará estos principios específicamente a la IA generativa, abordando retos como los deepfakes y la desinformación.

Lea también: Allister Frost sobre cómo abordar la ansiedad de la plantilla para una integración exitosa de la IA

¿Le interesan las opiniones de expertos en IA y big data? Explore la AI & Big Data Expo en Ámsterdam, California y Londres. Este evento integral, que forma parte de TechEx, se celebra conjuntamente con otras conferencias tecnológicas líderes. Haga clic aquí para obtener más detalles.

AI News es una publicación de TechForge Media. Descubre aquí otros próximos eventos y seminarios web sobre tecnología empresarial.