option
Maison
Nouvelles
Comprendre la nouvelle norme ETSI en matière de sécurité de l'IA

Comprendre la nouvelle norme ETSI en matière de sécurité de l'IA

7 juin 2026
73

La norme ETSI EN 304 223 définit les exigences fondamentales en matière de sécurité pour l'intelligence artificielle que les organisations doivent intégrer dans leurs structures de gouvernance.

Alors que les entreprises intègrent l'apprentissage automatique dans leurs flux de travail principaux, cette norme européenne prévoit des dispositions spécifiques pour la protection des modèles et des systèmes d'IA. Il s'agit de la première norme européenne applicable à l'échelle mondiale en matière de cybersécurité de l'IA, officiellement approuvée par les organismes nationaux de normalisation, ce qui renforce sa crédibilité sur les marchés internationaux.

Servant de référence complémentaire à la loi européenne sur l'IA, cette norme reconnaît que les systèmes d'IA comportent des risques spécifiques — notamment l'empoisonnement des données, l'obfuscation des modèles et l'injection indirecte de prompts — que les pratiques conventionnelles de sécurité logicielle négligent souvent. Elle s'applique aux réseaux neuronaux profonds, à l'IA générative et aux systèmes prédictifs de base, en excluant explicitement uniquement ceux utilisés exclusivement à des fins de recherche universitaire.

La norme ETSI définit la chaîne de responsabilité en matière de sécurité de l'IA

L'attribution de la responsabilité des risques constitue un défi persistant dans le déploiement de l'IA en entreprise. La norme ETSI y répond en définissant trois rôles techniques essentiels : les développeurs, les opérateurs de système et les gardiens de données.

Dans de nombreuses organisations, ces limites deviennent floues. Par exemple, une société de services financiers qui affine un modèle open source pour la détection des fraudes est à la fois un développeur et un opérateur de système. Ce double rôle impose des responsabilités strictes : l’entreprise doit sécuriser l’environnement de déploiement tout en documentant la provenance des données d’entraînement et les audits de conception des modèles.

L'inclusion explicite des « gardiens de données » en tant que groupe distinct de parties prenantes concerne directement les responsables des données et de l'analyse (CDAO). Ces personnes gèrent les autorisations et l'intégrité des données, un rôle qui comporte désormais des obligations claires en matière de sécurité. Les gardiens doivent vérifier que l'utilisation prévue du système correspond au niveau de sensibilité de ses données d'entraînement, intégrant ainsi efficacement un contrôleur de sécurité au sein des processus de gestion des données.

La norme ETSI sur l'IA souligne que la sécurité ne doit pas être une réflexion après coup ajoutée uniquement lors du déploiement. Dès la phase de conception, les organisations doivent réaliser une modélisation des menaces tenant compte des attaques spécifiques à l'IA, telles que l'inférence d'appartenance et l'obfuscation des modèles.

Une exigence impose aux développeurs de limiter les fonctionnalités afin de réduire au minimum la surface d'attaque. Par exemple, si un système utilise un modèle multimodal mais ne traite que du texte, les modalités inutilisées — telles que le traitement d'images ou d'audio — deviennent des risques qu'il convient d'atténuer. Cela pousse les responsables techniques à repenser l'habitude courante de déployer de grands modèles de base à usage général alors qu'un modèle plus petit et plus spécialisé suffirait.

La norme impose également une gestion rigoureuse des actifs. Les développeurs et les opérateurs de système doivent tenir un inventaire détaillé des actifs, couvrant les interdépendances et la connectivité. Cela facilite la détection de l’IA fantôme : les responsables informatiques ne peuvent pas protéger des modèles dont ils ignorent l’existence. De plus, la norme exige des plans de reprise après sinistre spécialement conçus pour les attaques d’IA, garantissant qu’un « état connu comme bon » puisse être restauré si un modèle est compromis.

La sécurité de la chaîne d'approvisionnement pose un défi direct aux organisations qui dépendent de fournisseurs tiers ou de référentiels open source. En vertu de la norme ETSI, si un opérateur de système choisit d'utiliser des modèles ou des composants d'IA mal documentés, il doit justifier ce choix et documenter les risques de sécurité qui y sont associés.

Dans la pratique, les équipes d'approvisionnement ne peuvent plus accepter de solutions de type « boîte noire ». Les développeurs doivent fournir des hachages cryptographiques pour les composants du modèle afin d’en vérifier l’authenticité. Lorsque les données d’entraînement proviennent de sources publiques — ce qui est courant pour les grands modèles linguistiques —, les développeurs doivent enregistrer l’URL de la source et l’horodatage de l’acquisition. Cette piste d’audit facilite les enquêtes post-incident, notamment pour déterminer si un modèle a été affecté par un empoisonnement des données pendant l’entraînement.

Les entreprises qui fournissent des API à des clients externes doivent mettre en place des contrôles pour contrer les attaques spécifiques à l'IA, telles que la limitation de débit afin d'empêcher les adversaires de procéder à une ingénierie inverse du modèle ou de submerger les défenses pour injecter des données empoisonnées.

Cette approche du cycle de vie se poursuit pendant la phase de maintenance, où la norme considère les mises à jour majeures — comme le réentraînement sur de nouvelles données — comme le déploiement d'une nouvelle version. Selon la norme ETSI sur l'IA, ces mises à jour nécessitent de nouveaux tests et une nouvelle évaluation de sécurité.

La surveillance continue est également systématisée. Les opérateurs système doivent analyser les journaux non seulement pour vérifier la disponibilité, mais aussi pour identifier les « dérives de données » ou les changements de comportement progressifs pouvant signaler une faille de sécurité. Cela fait passer la surveillance de l'IA d'une mesure de performance à une fonction de sécurité.

La norme couvre également la phase de « fin de vie ». Lorsqu’un modèle est retiré ou transféré, les organisations doivent faire appel à des gardiens de données pour garantir l’élimination sécurisée des données et des détails de configuration. Cette exigence empêche la fuite de propriété intellectuelle sensible ou de données d’entraînement via du matériel mis au rebut ou des instances cloud oubliées.

Supervision de la direction et responsabilités en matière de gouvernance

La conformité à la norme ETSI EN 304 223 nécessite de revoir les programmes actuels de formation à la cybersécurité. La norme exige une formation spécifique aux rôles, garantissant que les développeurs maîtrisent le codage sécurisé pour l’IA tandis que les employés en général restent vigilants face à des menaces telles que l’ingénierie sociale via les résultats de l’IA.

« La norme ETSI EN 304 223 marque une étape importante dans la création d’une base commune et solide pour la sécurité des systèmes d’IA », a déclaré Scott Cadzow, président du comité technique de l’ETSI pour la sécurisation de l’intelligence artificielle.

« À mesure que l'IA s'intègre de plus en plus dans les services et infrastructures critiques, on ne saurait trop insister sur l'importance de disposer de recommandations claires et pratiques qui tiennent compte à la fois de la complexité de ces technologies et des réalités de leur déploiement. Les efforts à l'origine de ce cadre sont le fruit d'une large collaboration, permettant aux organisations de faire confiance à des systèmes d'IA résilients, fiables et sécurisés dès leur conception. »

L'adoption des principes de base définis dans la norme de sécurité de l'IA de l'ETSI crée un cadre propice à une innovation plus sûre. Grâce à des pistes d'audit documentées, à des rôles bien définis et à la transparence de la chaîne d'approvisionnement, les organisations peuvent réduire les risques liés à l'adoption de l'IA tout en se dotant d'une position défendable en vue de futurs examens réglementaires.

Un rapport technique à paraître (ETSI TR 104 159) appliquera ces principes spécifiquement à l’IA générative, en abordant des défis tels que les deepfakes et la désinformation.

À lire également : Allister Frost sur la manière de gérer l'anxiété des employés pour une intégration réussie de l'IA

Vous souhaitez découvrir les avis d'experts en IA et en mégadonnées ? Découvrez l'AI & Big Data Expo à Amsterdam, en Californie et à Londres. Cet événement complet, qui fait partie de TechEx, se tient en même temps que d'autres conférences technologiques de premier plan. Cliquez ici pour plus de détails.

AI News vous est proposé par TechForge Media. Découvrez ici d'autres événements et webinaires à venir sur les technologies d'entreprise.

Article connexe
L'ancien chef scientifique d'OpenAI, Ilya, dévoile son premier modèle SSI L'ancien chef scientifique d'OpenAI, Ilya, dévoile son premier modèle SSI L’intelligence artificielle a atteint un autre jalon majeur. Après son départ d’OpenAI, l’ancien scientifique en chef Ilya Sutskever a fondé Safe Superintelligence Inc. (SSI), qui a récemment dévoilé les détails de son premier modèle. Selon des rappo
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field Le 14 mai 2026, la plateforme de développement d’applications d’IA Lovable a annoncé sa participation à une levée de fonds amorce de 800 000 $ pour la startup danoise de matériel Atech. Pilotée par Lovable, cette levée de fonds a attiré des sociétés
Anthropic étend ses outils de codage IA Claude au Japon dans le cadre de sa stratégie de croissance à l’étranger Anthropic étend ses outils de codage IA Claude au Japon dans le cadre de sa stratégie de croissance à l’étranger Anthropic, une entreprise américaine d’intelligence artificielle de premier plan, intensifie sa portée mondiale. Mercredi, l’entreprise a organisé une grande réunion de développeurs, « Code with Claude », à Tokyo, rassemblant près de 500 ingénieurs l
Recommandations de sujets spéciaux liés
chatbot Meilleurs outils d’entraînement à la conversation par IA pour la préparation aux entretiens
Meilleurs outils d’entraînement à la conversation par IA pour la préparation aux entretiens

Les derniers outils de formation à la conversation par IA les mieux notés pour 2026 sont disponibles sur XIX.AI ! Cette sélection rigoureuse propose des outils puissants et révolutionnaires, testés rigoureusement dans des conditions réelles pour fournir des retours précis. Vous y trouverez une comparaison entre les versions gratuites et payantes, ainsi que des classements détaillés pour vous aider à choisir l’option incontournable qui renforce votre confiance et vos compétences. Explorez dès maintenant pour découvrir l’outil parfait pour réussir vos entretiens !

12 outils
xix.ai
Conception et art Les meilleurs outils de transfert de style basés sur l'IA pour des expériences créatives
Les meilleurs outils de transfert de style basés sur l'IA pour des expériences créatives

Les meilleurs outils de transfert de style par IA de 2026, les mieux notés, pour des expériences créatives ! XIX.AI a sélectionné une collection d’outils puissants et révolutionnaires à essayer absolument, qui offrent des résultats exceptionnels grâce à des tests en conditions réelles et à un classement rigoureux. Ces solutions de pointe aident les créatifs à booster considérablement leur productivité en accélérant la création de contenu et en ouvrant la voie à des possibilités créatives infinies. Découvrez-les dès maintenant pour trouver l'outil qui vous convient le mieux et commencez à créer dès aujourd'hui !

9 outils
xix.ai
Création de bande dessinée Les meilleurs outils d'IA pour créer des bulles de dialogue destinés à la narration visuelle
Les meilleurs outils d'IA pour créer des bulles de dialogue destinés à la narration visuelle

Les meilleurs outils de 2026 pour la création de bulles de dialogue IA, les mieux notés pour la narration visuelle, sont disponibles ici sur XIX.AI ! Cette sélection regroupe des outils puissants et révolutionnaires qui aident les créateurs à booster leur productivité et à surmonter les blocages créatifs. Consultez un comparatif entre les versions gratuites et payantes, découvrez des tests en conditions réelles et consultez les derniers classements pour trouver les solutions incontournables, parfaites pour créer des récits visuels captivants. Explorez dès maintenant pour découvrir l'outil qui vous convient le mieux !

10 outils
xix.ai
Assistante de réunion Les meilleurs outils de synthèse de réunions basés sur l'IA : suivez clairement les décisions et les actions à mener
Les meilleurs outils de synthèse de réunions basés sur l'IA : suivez clairement les décisions et les actions à mener

2026 : les meilleurs outils d'IA pour la synthèse de réunions, les mieux notés, pour un suivi clair des décisions et des relances sans effort. Cette sélection présente des solutions puissantes et révolutionnaires qui boostent considérablement la productivité en automatisant la prise de notes lors des réunions, en identifiant les actions clés et en rationalisant la coordination des équipes sur l'ensemble des projets. Profitez d'une comparaison entre les versions gratuites et payantes, ainsi que de tests en conditions réelles et de classements mis à jour chaque semaine pour vous aider à trouver l'outil idéal. Découvrez-les dès maintenant pour tirer pleinement parti de l'IA !

9 outils
xix.ai
Analyse des données Meilleurs outils de nettoyage de données IA : corrigez rapidement les valeurs manquantes et les doublons
Meilleurs outils de nettoyage de données IA : corrigez rapidement les valeurs manquantes et les doublons

2026 : Les meilleures outils de nettoyage de données IA les plus récents et hautement notés pour corriger rapidement les valeurs manquantes et les doublons. Cette liste rigoureusement sélectionnée met en avant des solutions puissantes capables d’améliorer considérablement la productivité. Chaque outil a été soumis à des tests approfondis dans des conditions réelles afin de garantir sa fiabilité. Obtenez une comparaison gratuite et payante pour découvrir l’outil qu’il vous faut le mieux, adapté à vos besoins. Explorez dès maintenant XIX.AI pour tirer parti au maximum des capacités de l’IA.

11 outils
xix.ai
Conception et art Meilleurs outils d’idéation créative par IA pour les artistes : surmonter les blocages visuels
Meilleurs outils d’idéation créative par IA pour les artistes : surmonter les blocages visuels

2026 Derniers Meilleurs Outils d’Idéation Créative par IA les Mieux Notés pour les Artistes sont sélectionnés par XIX.AI pour aider les créateurs à surmonner les blocages visuels et stimuler instantanément leur créativité. Ces outils puissants et révolutionnaires offrent des tests concrets, une comparaison détaillée entre les versions gratuites et payantes, ainsi que des classements mis à jour chaque semaine. Découvrez l’outil parfait pour accélérer la création de contenu et débloquer votre avantage IA dès aujourd’hui. Explorez maintenant !

14 outils
xix.ai
commentaires (0)
0/500
OR