MaisonComprendre la nouvelle norme ETSI en matière de sécurité de l'IA
La norme ETSI EN 304 223 définit les exigences fondamentales en matière de sécurité pour l'intelligence artificielle que les organisations doivent intégrer dans leurs structures de gouvernance.
Alors que les entreprises intègrent l'apprentissage automatique dans leurs flux de travail principaux, cette norme européenne prévoit des dispositions spécifiques pour la protection des modèles et des systèmes d'IA. Il s'agit de la première norme européenne applicable à l'échelle mondiale en matière de cybersécurité de l'IA, officiellement approuvée par les organismes nationaux de normalisation, ce qui renforce sa crédibilité sur les marchés internationaux.
Servant de référence complémentaire à la loi européenne sur l'IA, cette norme reconnaît que les systèmes d'IA comportent des risques spécifiques — notamment l'empoisonnement des données, l'obfuscation des modèles et l'injection indirecte de prompts — que les pratiques conventionnelles de sécurité logicielle négligent souvent. Elle s'applique aux réseaux neuronaux profonds, à l'IA générative et aux systèmes prédictifs de base, en excluant explicitement uniquement ceux utilisés exclusivement à des fins de recherche universitaire.
La norme ETSI définit la chaîne de responsabilité en matière de sécurité de l'IA
L'attribution de la responsabilité des risques constitue un défi persistant dans le déploiement de l'IA en entreprise. La norme ETSI y répond en définissant trois rôles techniques essentiels : les développeurs, les opérateurs de système et les gardiens de données.
Dans de nombreuses organisations, ces limites deviennent floues. Par exemple, une société de services financiers qui affine un modèle open source pour la détection des fraudes est à la fois un développeur et un opérateur de système. Ce double rôle impose des responsabilités strictes : l’entreprise doit sécuriser l’environnement de déploiement tout en documentant la provenance des données d’entraînement et les audits de conception des modèles.
L'inclusion explicite des « gardiens de données » en tant que groupe distinct de parties prenantes concerne directement les responsables des données et de l'analyse (CDAO). Ces personnes gèrent les autorisations et l'intégrité des données, un rôle qui comporte désormais des obligations claires en matière de sécurité. Les gardiens doivent vérifier que l'utilisation prévue du système correspond au niveau de sensibilité de ses données d'entraînement, intégrant ainsi efficacement un contrôleur de sécurité au sein des processus de gestion des données.
La norme ETSI sur l'IA souligne que la sécurité ne doit pas être une réflexion après coup ajoutée uniquement lors du déploiement. Dès la phase de conception, les organisations doivent réaliser une modélisation des menaces tenant compte des attaques spécifiques à l'IA, telles que l'inférence d'appartenance et l'obfuscation des modèles.
Une exigence impose aux développeurs de limiter les fonctionnalités afin de réduire au minimum la surface d'attaque. Par exemple, si un système utilise un modèle multimodal mais ne traite que du texte, les modalités inutilisées — telles que le traitement d'images ou d'audio — deviennent des risques qu'il convient d'atténuer. Cela pousse les responsables techniques à repenser l'habitude courante de déployer de grands modèles de base à usage général alors qu'un modèle plus petit et plus spécialisé suffirait.
La norme impose également une gestion rigoureuse des actifs. Les développeurs et les opérateurs de système doivent tenir un inventaire détaillé des actifs, couvrant les interdépendances et la connectivité. Cela facilite la détection de l’IA fantôme : les responsables informatiques ne peuvent pas protéger des modèles dont ils ignorent l’existence. De plus, la norme exige des plans de reprise après sinistre spécialement conçus pour les attaques d’IA, garantissant qu’un « état connu comme bon » puisse être restauré si un modèle est compromis.
La sécurité de la chaîne d'approvisionnement pose un défi direct aux organisations qui dépendent de fournisseurs tiers ou de référentiels open source. En vertu de la norme ETSI, si un opérateur de système choisit d'utiliser des modèles ou des composants d'IA mal documentés, il doit justifier ce choix et documenter les risques de sécurité qui y sont associés.
Dans la pratique, les équipes d'approvisionnement ne peuvent plus accepter de solutions de type « boîte noire ». Les développeurs doivent fournir des hachages cryptographiques pour les composants du modèle afin d’en vérifier l’authenticité. Lorsque les données d’entraînement proviennent de sources publiques — ce qui est courant pour les grands modèles linguistiques —, les développeurs doivent enregistrer l’URL de la source et l’horodatage de l’acquisition. Cette piste d’audit facilite les enquêtes post-incident, notamment pour déterminer si un modèle a été affecté par un empoisonnement des données pendant l’entraînement.
Les entreprises qui fournissent des API à des clients externes doivent mettre en place des contrôles pour contrer les attaques spécifiques à l'IA, telles que la limitation de débit afin d'empêcher les adversaires de procéder à une ingénierie inverse du modèle ou de submerger les défenses pour injecter des données empoisonnées.
Cette approche du cycle de vie se poursuit pendant la phase de maintenance, où la norme considère les mises à jour majeures — comme le réentraînement sur de nouvelles données — comme le déploiement d'une nouvelle version. Selon la norme ETSI sur l'IA, ces mises à jour nécessitent de nouveaux tests et une nouvelle évaluation de sécurité.
La surveillance continue est également systématisée. Les opérateurs système doivent analyser les journaux non seulement pour vérifier la disponibilité, mais aussi pour identifier les « dérives de données » ou les changements de comportement progressifs pouvant signaler une faille de sécurité. Cela fait passer la surveillance de l'IA d'une mesure de performance à une fonction de sécurité.
La norme couvre également la phase de « fin de vie ». Lorsqu’un modèle est retiré ou transféré, les organisations doivent faire appel à des gardiens de données pour garantir l’élimination sécurisée des données et des détails de configuration. Cette exigence empêche la fuite de propriété intellectuelle sensible ou de données d’entraînement via du matériel mis au rebut ou des instances cloud oubliées.
Supervision de la direction et responsabilités en matière de gouvernance
La conformité à la norme ETSI EN 304 223 nécessite de revoir les programmes actuels de formation à la cybersécurité. La norme exige une formation spécifique aux rôles, garantissant que les développeurs maîtrisent le codage sécurisé pour l’IA tandis que les employés en général restent vigilants face à des menaces telles que l’ingénierie sociale via les résultats de l’IA.
« La norme ETSI EN 304 223 marque une étape importante dans la création d’une base commune et solide pour la sécurité des systèmes d’IA », a déclaré Scott Cadzow, président du comité technique de l’ETSI pour la sécurisation de l’intelligence artificielle.
« À mesure que l'IA s'intègre de plus en plus dans les services et infrastructures critiques, on ne saurait trop insister sur l'importance de disposer de recommandations claires et pratiques qui tiennent compte à la fois de la complexité de ces technologies et des réalités de leur déploiement. Les efforts à l'origine de ce cadre sont le fruit d'une large collaboration, permettant aux organisations de faire confiance à des systèmes d'IA résilients, fiables et sécurisés dès leur conception. »
L'adoption des principes de base définis dans la norme de sécurité de l'IA de l'ETSI crée un cadre propice à une innovation plus sûre. Grâce à des pistes d'audit documentées, à des rôles bien définis et à la transparence de la chaîne d'approvisionnement, les organisations peuvent réduire les risques liés à l'adoption de l'IA tout en se dotant d'une position défendable en vue de futurs examens réglementaires.
Un rapport technique à paraître (ETSI TR 104 159) appliquera ces principes spécifiquement à l’IA générative, en abordant des défis tels que les deepfakes et la désinformation.
À lire également : Allister Frost sur la manière de gérer l'anxiété des employés pour une intégration réussie de l'IA
Vous souhaitez découvrir les avis d'experts en IA et en mégadonnées ? Découvrez l'AI & Big Data Expo à Amsterdam, en Californie et à Londres. Cet événement complet, qui fait partie de TechEx, se tient en même temps que d'autres conférences technologiques de premier plan. Cliquez ici pour plus de détails.
AI News vous est proposé par TechForge Media. Découvrez ici d'autres événements et webinaires à venir sur les technologies d'entreprise.
Article connexe
Gmail lance une boîte de réception personnalisée grâce à l'IA, des aperçus générés par l'IA dans la recherche, et bien plus encore
Google a lancé une nouvelle boîte de réception alimentée par l'IA pour Gmail, qui vous offre un aperçu personnalisé de vos tâches et vous tient informé des mises à jour importantes. Parallèlement, Gma
La première base de création de séries animées par IA de Baidu dans la province du Shandong voit le jour à Zibo
Le 27 avril, la province du Shandong a franchi une étape importante dans le domaine de la création culturelle numérique avec le lancement officiel de sa première base de création de séries animées bas
Sandberg et Clegg rejoignent le conseil d'administration de Nscale alors que la start-up « Stargate Norway » atteint une valorisation de 14,6 milliards de dollars
Alors que la demande explose pour des centres de données capables de fournir des capacités de calcul IA à grande échelle, Nscale, une entreprise britannique spécialisée dans les infrastructures d'IA s
Recommandations de sujets spéciaux liés
Création de bande dessinée
Créateurs de profils de personnages AI : générer des histoires de fond détaillées et des références visuelles pour les personnages principaux des mangas
2026 : Les meilleurs outils pour créer des profils de personnages AI : Découvrez des outils hautement réputés qui vous permettent de générer des histoires détaillées et des références visuelles pour vos personnages principaux dans les mangas. Notre liste, mise à jour chaque semaine, compare les options gratuites et payantes sur la base d’essais réels. Trouvez des solutions puissantes qui transformeront votre processus créatif et vous aideront à créer des personnages captivants. Explorez le classement sur XIX.AI et découvrez dès aujourd’hui l’allié idéal pour votre narration.
10 outils
xix.ai
Santé et bien-être
Assistants IA pour la grossesse : créez des programmes d'entraînement et de nutrition sûrs, adaptés à chaque trimestre
Découvrez les meilleurs assistants de grossesse basés sur l'IA pour 2026, qui vous proposent des programmes d'entraînement et des plans nutritionnels personnalisés et sans risque, trimestre par trimestre. Bénéficiez de recommandations triées sur le volet et très bien notées, accompagnées de comparaisons entre les options gratuites et payantes ainsi que d'avis concrets. Vivez une grossesse en pleine forme grâce au guide d'experts de XIX.AI. Découvrez-le dès maintenant.
10 outils
xix.ai
en écrivant
Les meilleurs outils gratuits d'écriture IA indétectables : transformez des brouillons robotiques en textes naturels, dignes d'un humain
Découvrez les meilleurs générateurs de texte IA gratuits et indétectables de 2026 sur XIX.AI. Notre sélection rigoureuse des meilleurs outils vous aide à transformer des brouillons robotiques en textes naturels, dignes d'un humain. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Prenez dès aujourd'hui une longueur d'avance en matière de rédaction IA.
10 outils
xix.ai
Édition d'images
Generateurs d'art par intelligence artificielle pour storyboards de courts drames : personnages de fantasy et de romance urbaine
2026 : Découvrez les meilleurs générateurs d’art artificiel pour les storyboards de courts métrages. Notre liste sélectionnée présente des outils hautement réputés pour créer des personnages captivants dans les genres fantasy et romance urbaine. Comparez les options gratuites et payantes, consultez les résultats de tests réels et trouvez le partenaire créatif idéal pour vous. Recevez chaque semaine des classements mis à jour et des conseils d’experts de XIX.AI. Commencez dès aujourd’hui à visualiser votre histoire !
10 outils
xix.ai
en écrivant
Meilleurs outils d’scriptage AI pour la radio et la production de podcasts : rédiger des publicités audio captivantes
Découvrez les 20 meilleurs outils de scriptage AI pour la radio et la production de podcasts en 2026 sur XIX.AI. Notre liste, soigneusement sélectionnée et hautement réputée, propose des solutions puissantes et révolutionnaires pour créer rapidement des publicités audio captivantes. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mises à jour chaque semaine. Développez votre potentiel créatif dès aujourd’hui !
10 outils
xix.ai
Entreprise
Le meilleur logiciel d'analyse de contrats basé sur l'IA : identifiez instantanément les failles juridiques et les risques de non-conformité
Découvrez les meilleurs logiciels d'analyse de contrats basés sur l'IA pour 2026 sur XIX.AI. Notre sélection triée sur le volet et très bien notée regroupe des outils performants qui détectent instantanément les failles juridiques et les risques de non-conformité. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Trouvez la solution qui changera la donne pour une analyse de contrats sécurisée et efficace. Découvrez dès maintenant le guide complet.
10 outils
xix.ai
commentaires (0)
La norme ETSI EN 304 223 définit les exigences fondamentales en matière de sécurité pour l'intelligence artificielle que les organisations doivent intégrer dans leurs structures de gouvernance.
Alors que les entreprises intègrent l'apprentissage automatique dans leurs flux de travail principaux, cette norme européenne prévoit des dispositions spécifiques pour la protection des modèles et des systèmes d'IA. Il s'agit de la première norme européenne applicable à l'échelle mondiale en matière de cybersécurité de l'IA, officiellement approuvée par les organismes nationaux de normalisation, ce qui renforce sa crédibilité sur les marchés internationaux.
Servant de référence complémentaire à la loi européenne sur l'IA, cette norme reconnaît que les systèmes d'IA comportent des risques spécifiques — notamment l'empoisonnement des données, l'obfuscation des modèles et l'injection indirecte de prompts — que les pratiques conventionnelles de sécurité logicielle négligent souvent. Elle s'applique aux réseaux neuronaux profonds, à l'IA générative et aux systèmes prédictifs de base, en excluant explicitement uniquement ceux utilisés exclusivement à des fins de recherche universitaire.
La norme ETSI définit la chaîne de responsabilité en matière de sécurité de l'IA
L'attribution de la responsabilité des risques constitue un défi persistant dans le déploiement de l'IA en entreprise. La norme ETSI y répond en définissant trois rôles techniques essentiels : les développeurs, les opérateurs de système et les gardiens de données.
Dans de nombreuses organisations, ces limites deviennent floues. Par exemple, une société de services financiers qui affine un modèle open source pour la détection des fraudes est à la fois un développeur et un opérateur de système. Ce double rôle impose des responsabilités strictes : l’entreprise doit sécuriser l’environnement de déploiement tout en documentant la provenance des données d’entraînement et les audits de conception des modèles.
L'inclusion explicite des « gardiens de données » en tant que groupe distinct de parties prenantes concerne directement les responsables des données et de l'analyse (CDAO). Ces personnes gèrent les autorisations et l'intégrité des données, un rôle qui comporte désormais des obligations claires en matière de sécurité. Les gardiens doivent vérifier que l'utilisation prévue du système correspond au niveau de sensibilité de ses données d'entraînement, intégrant ainsi efficacement un contrôleur de sécurité au sein des processus de gestion des données.
La norme ETSI sur l'IA souligne que la sécurité ne doit pas être une réflexion après coup ajoutée uniquement lors du déploiement. Dès la phase de conception, les organisations doivent réaliser une modélisation des menaces tenant compte des attaques spécifiques à l'IA, telles que l'inférence d'appartenance et l'obfuscation des modèles.
Une exigence impose aux développeurs de limiter les fonctionnalités afin de réduire au minimum la surface d'attaque. Par exemple, si un système utilise un modèle multimodal mais ne traite que du texte, les modalités inutilisées — telles que le traitement d'images ou d'audio — deviennent des risques qu'il convient d'atténuer. Cela pousse les responsables techniques à repenser l'habitude courante de déployer de grands modèles de base à usage général alors qu'un modèle plus petit et plus spécialisé suffirait.
La norme impose également une gestion rigoureuse des actifs. Les développeurs et les opérateurs de système doivent tenir un inventaire détaillé des actifs, couvrant les interdépendances et la connectivité. Cela facilite la détection de l’IA fantôme : les responsables informatiques ne peuvent pas protéger des modèles dont ils ignorent l’existence. De plus, la norme exige des plans de reprise après sinistre spécialement conçus pour les attaques d’IA, garantissant qu’un « état connu comme bon » puisse être restauré si un modèle est compromis.
La sécurité de la chaîne d'approvisionnement pose un défi direct aux organisations qui dépendent de fournisseurs tiers ou de référentiels open source. En vertu de la norme ETSI, si un opérateur de système choisit d'utiliser des modèles ou des composants d'IA mal documentés, il doit justifier ce choix et documenter les risques de sécurité qui y sont associés.
Dans la pratique, les équipes d'approvisionnement ne peuvent plus accepter de solutions de type « boîte noire ». Les développeurs doivent fournir des hachages cryptographiques pour les composants du modèle afin d’en vérifier l’authenticité. Lorsque les données d’entraînement proviennent de sources publiques — ce qui est courant pour les grands modèles linguistiques —, les développeurs doivent enregistrer l’URL de la source et l’horodatage de l’acquisition. Cette piste d’audit facilite les enquêtes post-incident, notamment pour déterminer si un modèle a été affecté par un empoisonnement des données pendant l’entraînement.
Les entreprises qui fournissent des API à des clients externes doivent mettre en place des contrôles pour contrer les attaques spécifiques à l'IA, telles que la limitation de débit afin d'empêcher les adversaires de procéder à une ingénierie inverse du modèle ou de submerger les défenses pour injecter des données empoisonnées.
Cette approche du cycle de vie se poursuit pendant la phase de maintenance, où la norme considère les mises à jour majeures — comme le réentraînement sur de nouvelles données — comme le déploiement d'une nouvelle version. Selon la norme ETSI sur l'IA, ces mises à jour nécessitent de nouveaux tests et une nouvelle évaluation de sécurité.
La surveillance continue est également systématisée. Les opérateurs système doivent analyser les journaux non seulement pour vérifier la disponibilité, mais aussi pour identifier les « dérives de données » ou les changements de comportement progressifs pouvant signaler une faille de sécurité. Cela fait passer la surveillance de l'IA d'une mesure de performance à une fonction de sécurité.
La norme couvre également la phase de « fin de vie ». Lorsqu’un modèle est retiré ou transféré, les organisations doivent faire appel à des gardiens de données pour garantir l’élimination sécurisée des données et des détails de configuration. Cette exigence empêche la fuite de propriété intellectuelle sensible ou de données d’entraînement via du matériel mis au rebut ou des instances cloud oubliées.
Supervision de la direction et responsabilités en matière de gouvernance
La conformité à la norme ETSI EN 304 223 nécessite de revoir les programmes actuels de formation à la cybersécurité. La norme exige une formation spécifique aux rôles, garantissant que les développeurs maîtrisent le codage sécurisé pour l’IA tandis que les employés en général restent vigilants face à des menaces telles que l’ingénierie sociale via les résultats de l’IA.
« La norme ETSI EN 304 223 marque une étape importante dans la création d’une base commune et solide pour la sécurité des systèmes d’IA », a déclaré Scott Cadzow, président du comité technique de l’ETSI pour la sécurisation de l’intelligence artificielle.
« À mesure que l'IA s'intègre de plus en plus dans les services et infrastructures critiques, on ne saurait trop insister sur l'importance de disposer de recommandations claires et pratiques qui tiennent compte à la fois de la complexité de ces technologies et des réalités de leur déploiement. Les efforts à l'origine de ce cadre sont le fruit d'une large collaboration, permettant aux organisations de faire confiance à des systèmes d'IA résilients, fiables et sécurisés dès leur conception. »
L'adoption des principes de base définis dans la norme de sécurité de l'IA de l'ETSI crée un cadre propice à une innovation plus sûre. Grâce à des pistes d'audit documentées, à des rôles bien définis et à la transparence de la chaîne d'approvisionnement, les organisations peuvent réduire les risques liés à l'adoption de l'IA tout en se dotant d'une position défendable en vue de futurs examens réglementaires.
Un rapport technique à paraître (ETSI TR 104 159) appliquera ces principes spécifiquement à l’IA générative, en abordant des défis tels que les deepfakes et la désinformation.
À lire également : Allister Frost sur la manière de gérer l'anxiété des employés pour une intégration réussie de l'IA
Vous souhaitez découvrir les avis d'experts en IA et en mégadonnées ? Découvrez l'AI & Big Data Expo à Amsterdam, en Californie et à Londres. Cet événement complet, qui fait partie de TechEx, se tient en même temps que d'autres conférences technologiques de premier plan. Cliquez ici pour plus de détails.
AI News vous est proposé par TechForge Media. Découvrez ici d'autres événements et webinaires à venir sur les technologies d'entreprise.
Gmail lance une boîte de réception personnalisée grâce à l'IA, des aperçus générés par l'IA dans la recherche, et bien plus encore
Google a lancé une nouvelle boîte de réception alimentée par l'IA pour Gmail, qui vous offre un aperçu personnalisé de vos tâches et vous tient informé des mises à jour importantes. Parallèlement, Gma
La première base de création de séries animées par IA de Baidu dans la province du Shandong voit le jour à Zibo
Le 27 avril, la province du Shandong a franchi une étape importante dans le domaine de la création culturelle numérique avec le lancement officiel de sa première base de création de séries animées bas
Sandberg et Clegg rejoignent le conseil d'administration de Nscale alors que la start-up « Stargate Norway » atteint une valorisation de 14,6 milliards de dollars
Alors que la demande explose pour des centres de données capables de fournir des capacités de calcul IA à grande échelle, Nscale, une entreprise britannique spécialisée dans les infrastructures d'IA s
2026 : Les meilleurs outils pour créer des profils de personnages AI : Découvrez des outils hautement réputés qui vous permettent de générer des histoires détaillées et des références visuelles pour vos personnages principaux dans les mangas. Notre liste, mise à jour chaque semaine, compare les options gratuites et payantes sur la base d’essais réels. Trouvez des solutions puissantes qui transformeront votre processus créatif et vous aideront à créer des personnages captivants. Explorez le classement sur XIX.AI et découvrez dès aujourd’hui l’allié idéal pour votre narration.
10 outils
xix.ai
Découvrez les meilleurs assistants de grossesse basés sur l'IA pour 2026, qui vous proposent des programmes d'entraînement et des plans nutritionnels personnalisés et sans risque, trimestre par trimestre. Bénéficiez de recommandations triées sur le volet et très bien notées, accompagnées de comparaisons entre les options gratuites et payantes ainsi que d'avis concrets. Vivez une grossesse en pleine forme grâce au guide d'experts de XIX.AI. Découvrez-le dès maintenant.
10 outils
xix.ai
Découvrez les meilleurs générateurs de texte IA gratuits et indétectables de 2026 sur XIX.AI. Notre sélection rigoureuse des meilleurs outils vous aide à transformer des brouillons robotiques en textes naturels, dignes d'un humain. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Prenez dès aujourd'hui une longueur d'avance en matière de rédaction IA.
10 outils
xix.ai
2026 : Découvrez les meilleurs générateurs d’art artificiel pour les storyboards de courts métrages. Notre liste sélectionnée présente des outils hautement réputés pour créer des personnages captivants dans les genres fantasy et romance urbaine. Comparez les options gratuites et payantes, consultez les résultats de tests réels et trouvez le partenaire créatif idéal pour vous. Recevez chaque semaine des classements mis à jour et des conseils d’experts de XIX.AI. Commencez dès aujourd’hui à visualiser votre histoire !
10 outils
xix.ai
Découvrez les 20 meilleurs outils de scriptage AI pour la radio et la production de podcasts en 2026 sur XIX.AI. Notre liste, soigneusement sélectionnée et hautement réputée, propose des solutions puissantes et révolutionnaires pour créer rapidement des publicités audio captivantes. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mises à jour chaque semaine. Développez votre potentiel créatif dès aujourd’hui !
10 outils
xix.ai
Découvrez les meilleurs logiciels d'analyse de contrats basés sur l'IA pour 2026 sur XIX.AI. Notre sélection triée sur le volet et très bien notée regroupe des outils performants qui détectent instantanément les failles juridiques et les risques de non-conformité. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Trouvez la solution qui changera la donne pour une analyse de contrats sécurisée et efficace. Découvrez dès maintenant le guide complet.
10 outils
xix.ai
