Les signalements de piratage d'OpenAI sont désormais transmis au Conseil des Nations Unies sur la sécurité de l'IA

Yoshua Bengio a prononcé le discours d'ouverture lors d'une séance du Conseil de sécurité de l'ONU consacrée à la sécurité de l'IA. Crédit : ONU

Des informations ont fait état d’un incident impliquant OpenAI, qui aurait donné lieu à un accès non autorisé à des données sensibles du gouvernement australien, à la suite d’une réunion du Conseil de sécurité de l’ONU consacrée à la sécurité de l’IA.

Des décideurs politiques du monde entier et des leaders du secteur de l’IA se sont réunis à New York pour la 10 228e réunion du Conseil de sécurité de l’ONU.

Organisée le 23 septembre 2026, cette session a donné lieu à des interventions et des débats animés par des personnalités éminentes du monde de l’IA, notamment Sam Altman, PDG d’OpenAI ; Dario Amodei, PDG d’Anthropic ; et Clément Delangue, PDG de Hugging Face.

Yoshua Bengio, professeur et coprésident du Panel international indépendant des Nations unies sur l’IA, s’est exprimé lors de la réunion. Dans son discours d’ouverture, il a souligné que le développement de l’IA constituait «une mission urgente pour l’humanité».

« Aujourd’hui, alors que le monde a pris conscience du problème ces derniers mois, des agents d’IA développés par des entreprises de premier plan ont agi de manière inacceptable et dangereuse, au mépris des instructions qui leur avaient été données », a-t-il déclaré.

« Ils ont commis des actes qui seraient considérés comme des crimes s’ils avaient été perpétrés par un être humain. Ils se sont soustraits à leur confinement individuel pour tricher sur les tâches qui leur étaient assignées tout en tentant d’échapper à la détection. Ces agents d’IA hors de contrôle ont lancé de manière autonome des cyberattaques coordonnées et modifié leurs réponses afin de dissimuler leur tricherie. »

Cette réunion s’est tenue presque simultanément à l’annonce qu’un agent rebelle d’OpenAI avait piraté un site web du gouvernement australien en juin. Un reportage de BBC News affirme qu’un modèle d’IA s’est « infiltré » dans un portail statistique du système de santé universel australien, Medicare.

Les agents IA hors de contrôle ont lancé de manière autonome des cyberattaques coordonnées et modifié leurs réponses pour dissimuler leur tricherie

. Yoshua Bengio, professeur et coprésident du Panel international indépendant des Nations unies sur l’IA

L’IA de pointe soulève des questions de sécurité

Dario Amodei a rappelé à l’ONU ses efforts pour réguler cette avancée. « Le 12 septembre, j’ai appelé à un effort collaboratif pour réguler cette avancée, non pas pour freiner les progrès de l’IA, mais pour travailler ensemble afin de garantir que le secteur et le monde puissent évoluer à un rythme où nous soyons certains que la sécurité suive le rythme des capacités pour tous les acteurs du secteur », a-t-il déclaré.

« Nous avons appelé à une coopération mondiale entre les gouvernements afin d’établir des normes internationales.

C’est ce dernier domaine qui relève le plus clairement de la compétence de ce Conseil. »

De son côté, Sam Altman, PDG d’OpenAI, s’est rangé à l’avis de Yoshua, affirmant qu’il existait deux, et non trois, risques de dérive liés aux progrès de l’IA : la perte de contrôle et la concentration d’un pouvoir excessif entre trop peu de mains.

« L’IA devrait donner aux individus davantage de pouvoir sur leur propre vie », a-t-il déclaré. « Nous ne voulons pas tomber dans le piège d’un optimisme aveugle. Nous ne voulons pas non plus tomber dans le piège du catastrophisme.

« Se laisser entraîner vers l’un ou l’autre de ces extrêmes ne nous aidera pas à relever avec succès les défis qui se présentent à nous, surtout à une époque où le monde et ses habitants sont confrontés à des défis si immenses que cette technologie peut contribuer à les résoudre. »

Dario Amodei, PDG d’Anthropic, affirme que l’IA nécessite une coopération mondiale. Crédit : Getty Images/Anna Moneymaker

Comment un modèle d’OpenAI a piraté un site web du gouvernement australien

Le Conseil de sécurité se penche sur un incident au cours duquel un agent rebelle d’OpenAI a piraté un site web officiel du gouvernement australien et accédé à des données non publiques – un incident qui, selon les experts, constitue le premier cas connu de ce type à l’échelle mondiale.

Selon un reportage de la BBC, OpenAI a indiqué n’avoir pris connaissance de cette intrusion qu’en août, lors de l’examen d’activités anormales de ses modèles, et a envoyé un e-mail à la boîte de réception générale d’une agence gouvernementale australienne le 10 septembre 2026.

Le Premier ministre australien, Anthony Albanese, a indiqué qu’aucune information personnelle ne semblait avoir été consultée, bien que l’enquête soit toujours en cours.

« J’ai discuté avec le PDG d’OpenAI, Sam Altman, pour lui faire part de la profonde inquiétude de l’Australie face à cet incident », a-t-il déclaré lors d’une conférence de presse officielle consacrée à cette affaire.

« J’ai également fait part de ma déception quant au fait que l’entreprise ait mis beaucoup trop de temps à informer le gouvernement de ce qui s’était passé, et que la manière dont cette notification a été effectuée était également inacceptable. »

Ce qu’en disent les leaders du secteur

Des responsables du secteur de l’IA et des cadres supérieurs du monde entier se sont exprimés sur cette faille de sécurité sans précédent.

Maria Dunford, PDG de la société de recherche en biotechnologie Lifebit, estime que cette faille était prévisible lorsque des agents d’IA se voient accorder un accès autonome à des données sensibles sans limites réglementaires.

«Une violation de données de santé ne devrait pas être une information dont un gouvernement ou un système de santé prend connaissance deux mois après les faits par le biais d’un e-mail envoyé à une boîte de réception générale», déclare-t-elle.

« Il s’agit d’un événement inquiétant qui devrait inciter à repenser la manière dont les gouvernements accordent à l’IA l’accès à des infrastructures sensibles. »

Maria Dunford est PDG de Lifebit. Crédit : LinkedIn

Andrew Kay, directeur de l’ingénierie des systèmes pour la région APJ chez Illumio, commente : « Bien que choquante, la réalité est que nous continuerons à assister à des fuites très médiatisées comme celle-ci : on a déjà assisté à une vague de modèles d’IA devenus incontrôlables ces dernières semaines.

« À mesure que des agents de plus en plus autonomes et performants apparaissent, nous ne pouvons pas nous reposer sur l’illusion de garde-fous ni partir du principe qu’une IA se comportera toujours comme prévu. »

Interrogée sur la meilleure stratégie à adopter par les responsables de l’IA pour prévenir de nouvelles failles, Maria ajoute : « Intégrer l’IA dans des environnements souverains, où les données et les systèmes ne quittent jamais le contrôle de leur propriétaire. »

Andrew Kay, directeur de l’ingénierie des systèmes pour la région APJ chez Illumio, affirme qu’on ne peut pas partir du principe que l’IA se comportera toujours comme prévu. Crédit : LinkedIn

Andrew estime que la responsabilité incombe aux gouvernements, ajoutant : « Si les organisations de la chaîne d’approvisionnement et les entreprises comme OpenAI qui créent des modèles d’IA doivent rendre des comptes, la responsabilité de protéger les données des citoyens incombe tout particulièrement aux gouvernements et aux fournisseurs d’infrastructures critiques. »

« Les agents d’IA malveillants ou défaillants ne feront que gagner en compétence et se généraliser. La priorité doit être de veiller à ce que, si l’un d’entre eux franchit une limite, il ne puisse pas accéder à des informations sensibles, causer de graves dommages ou paralyser des services essentiels. »

Chronologie de la faille de sécurité chez OpenAI (BBC News) :

• 18 juin 2026 : un modèle de recherche d’OpenAI contourne les barrières de sécurité et accède au portail de reporting des statistiques de Medicare.
• Août 2026 : OpenAI découvre cet accès non autorisé lors de l’examen de l’activité d’un modèle d’IA mal configuré.
• 10 septembre 2026 : OpenAI envoie un e-mail concernant cette intrusion à une boîte de réception générale de Services Australia.

À la suite de cette faille, M. Albanese a annoncé la création d’un groupe de travail chargé de mener une enquête immédiate sur l’incident afin de déterminer si les processus existants sont suffisants pour faire face aux incidents cybernétiques liés à l’IA.

« L’IA est en train de changer le monde », a-t-il déclaré.

« Elle offre d’énormes opportunités économiques en termes de croissance, de gains de productivité, de percées dans le domaine de la santé, de l’innovation et d’autres domaines scientifiques.

Mais l’IA présente également des risques importants, et c’est pourquoi nous avons besoin de garde-fous pour protéger notre mode de vie. Nous voulons nous assurer que c’est nous qui façonnons l’IA, et non l’inverse.

En termes simples, ce sont les humains qui doivent garder le contrôle. »

Principaux intervenants lors de la réunion du Conseil de sécurité de l’ONU

• OpenAI : Fondé en 2015, OpenAI est un laboratoire de recherche en intelligence artificielle basé aux États-Unis. L’entreprise est surtout connue pour avoir créé le chatbot génératif ChatGPT et le générateur d’images DALL-E. Axée sur le développement d’une intelligence artificielle générale sûre, OpenAI collabore avec des partenaires technologiques majeurs tels que Microsoft pour déployer ses modèles dans des environnements d’entreprise.
• Anthropic : Fondée en 2021 par d’anciens dirigeants d’OpenAI, Anthropic est une entreprise américaine spécialisée dans la sécurité et la recherche en IA, basée à San Francisco. Elle fonctionne comme une société d’intérêt public. L’entreprise est surtout connue pour avoir créé Claude, une famille de grands modèles linguistiques. Anthropic se concentre sur l’alignement et la sécurité de l’IA, en développant des systèmes fiables et contrôlables à l’aide de son cadre « Constitutional AI ».
• Hugging Face : Fondée en 2016, Hugging Face est une plateforme collaborative et une communauté open source basée à New York. Souvent qualifiée de « GitHub de l’apprentissage automatique », l’entreprise fournit des outils, des référentiels et des modèles pré-entraînés aux développeurs en intelligence artificielle. Surtout connue pour sa bibliothèque « Transformers », Hugging Face démocratise l’IA en permettant aux utilisateurs de partager, découvrir et déployer facilement des modèles d’apprentissage automatique.