Maison
De nombreux pays exigent une évaluation de sécurité pour les grands modèles avant leur mise sur le marché.

À mesure que l’IA se développe rapidement dans le monde entier, la surveillance des grands modèles de langage évolue des principes généraux vers une application concrète. Les gouvernements du Royaume-Uni, des États-Unis et de l’Australie ont récemment mis en place de nouvelles mesures exigeant que les systèmes d’IA de pointe subissent des tests gouvernementaux visant à identifier les vulnérabilités de sécurité ainsi que les limites liées aux risques avant leur mise en service officielle.
L’approche britannique devient un modèle de politique mondiale
Dans ce changement réglementaire, le cadre d’évaluation des risques et de tests de type « red-teaming » développé par l’AI Safety Institute (AISI) du Royaume-Uni s’impose comme référence pour les autres pays. Récemment, le gouvernement britannique a annoncé un partenariat formel avec l’Australian AI Safety Institute afin de surveiller conjointement les risques potentiels liés aux technologies d’IA avancées dans les domaines des attaques et de la défense informatiques, et d’échanger des connaissances sur leurs capacités fondamentales.
Ce nouveau modèle marque un éloignement par rapport à la dépendance précédente envers des engagements volontaires de la part des entreprises, en intégrant directement le gouvernement dans le processus de test. À l’avenir, les grands modèles d’IA devront suivre une procédure de conformité similaire à une « inspection de sécurité avant mise sur le marché » tout en concourant sur le marché, et les capacités de test de sécurité deviennent de plus en plus un élément clé de la compétitivité des produits.
Les géants technologiques américains s’engagent dans des évaluations de sécurité nationale
Parallèlement, le AI Standards and Innovation Center (CAISI) relevant du Département du Commerce américain développe des mécanismes similaires d’évaluation de la sécurité nationale. Plusieurs entreprises leaders dans le domaine de l’IA, dont Google DeepMind, Microsoft et xAI d’Elon Musk, ont conclu des accords importants avec ce centre, s’engageant à fournir les documents nécessaires et à subir des évaluations de sécurité approfondies avant de publier leurs modèles.
Durant cette période, Microsoft a également confirmé qu’elle renforcerait sa collaboration avec les organismes de test américains et britanniques afin de réduire conjointement les risques pour la sécurité publique liés aux modèles avancés. Ces partenariats internationaux rapides envoient un message clair : la régulation future de l’IA ne se concentrera plus uniquement sur le fait que les entreprises aient établi des engagements en matière de sécurité, mais plutôt sur le fait que ces engagements aient effectivement été testés.
Article connexe
Meta veut que votre prochain gadget soit alimenté par Muse
Le Muse de Meta, un assistant IA qui gère les réservations de voyages, les soumissions de formulaires et les achats, a connu une adoption massive, mais une nouvelle initiative pourrait particulièrement intriguer les développeurs et les passionnés de
Wan-Streamer v0.2 offre une IA de chat à latence ultra-faible
Alors que la technologie moderne progresse rapidement, l'interaction entre les humains et l'intelligence artificielle devient de plus en plus courante. Les appels vidéo traditionnels peinent souvent à gérer les retards, les délais et la désynchronisa
Meta rejoint TSMC et Micron pour équiper de nouveaux serveurs avec des mémoires anciennes
Alors que l’adoption de l’intelligence artificielle s’accélère à l’échelle mondiale, la mémoire DDR5 de nouvelle génération connaît une pénurie critique d’approvisionnement. Afin d’éviter les retards dans le déploiement des centres de données dédiés
Recommandations de sujets spéciaux liés
commentaires (0)

À mesure que l’IA se développe rapidement dans le monde entier, la surveillance des grands modèles de langage évolue des principes généraux vers une application concrète. Les gouvernements du Royaume-Uni, des États-Unis et de l’Australie ont récemment mis en place de nouvelles mesures exigeant que les systèmes d’IA de pointe subissent des tests gouvernementaux visant à identifier les vulnérabilités de sécurité ainsi que les limites liées aux risques avant leur mise en service officielle.
L’approche britannique devient un modèle de politique mondiale
Dans ce changement réglementaire, le cadre d’évaluation des risques et de tests de type « red-teaming » développé par l’AI Safety Institute (AISI) du Royaume-Uni s’impose comme référence pour les autres pays. Récemment, le gouvernement britannique a annoncé un partenariat formel avec l’Australian AI Safety Institute afin de surveiller conjointement les risques potentiels liés aux technologies d’IA avancées dans les domaines des attaques et de la défense informatiques, et d’échanger des connaissances sur leurs capacités fondamentales.
Ce nouveau modèle marque un éloignement par rapport à la dépendance précédente envers des engagements volontaires de la part des entreprises, en intégrant directement le gouvernement dans le processus de test. À l’avenir, les grands modèles d’IA devront suivre une procédure de conformité similaire à une « inspection de sécurité avant mise sur le marché » tout en concourant sur le marché, et les capacités de test de sécurité deviennent de plus en plus un élément clé de la compétitivité des produits.
Les géants technologiques américains s’engagent dans des évaluations de sécurité nationale
Parallèlement, le AI Standards and Innovation Center (CAISI) relevant du Département du Commerce américain développe des mécanismes similaires d’évaluation de la sécurité nationale. Plusieurs entreprises leaders dans le domaine de l’IA, dont Google DeepMind, Microsoft et xAI d’Elon Musk, ont conclu des accords importants avec ce centre, s’engageant à fournir les documents nécessaires et à subir des évaluations de sécurité approfondies avant de publier leurs modèles.
Durant cette période, Microsoft a également confirmé qu’elle renforcerait sa collaboration avec les organismes de test américains et britanniques afin de réduire conjointement les risques pour la sécurité publique liés aux modèles avancés. Ces partenariats internationaux rapides envoient un message clair : la régulation future de l’IA ne se concentrera plus uniquement sur le fait que les entreprises aient établi des engagements en matière de sécurité, mais plutôt sur le fait que ces engagements aient effectivement été testés.
Meta veut que votre prochain gadget soit alimenté par Muse
Le Muse de Meta, un assistant IA qui gère les réservations de voyages, les soumissions de formulaires et les achats, a connu une adoption massive, mais une nouvelle initiative pourrait particulièrement intriguer les développeurs et les passionnés de
Wan-Streamer v0.2 offre une IA de chat à latence ultra-faible
Alors que la technologie moderne progresse rapidement, l'interaction entre les humains et l'intelligence artificielle devient de plus en plus courante. Les appels vidéo traditionnels peinent souvent à gérer les retards, les délais et la désynchronisa
Meta rejoint TSMC et Micron pour équiper de nouveaux serveurs avec des mémoires anciennes
Alors que l’adoption de l’intelligence artificielle s’accélère à l’échelle mondiale, la mémoire DDR5 de nouvelle génération connaît une pénurie critique d’approvisionnement. Afin d’éviter les retards dans le déploiement des centres de données dédiés











