L'Alabama mène une enquête sur OpenAI suite à la cyberattaque contre Hugging Face

À la suite de la faille de sécurité survenue chez Hugging Face, OpenAI a suspendu le développement de ses modèles de pointe, son PDG Sam Altman soulignant que les mesures de sécurité devaient suivre le rythme des progrès rapides. Crédit : Getty

Le procureur général de l'Alabama, Steve Marshall, a adressé une assignation à comparaître à OpenAI dans le cadre d'une enquête sur les risques liés à la sécurité des modèles d'IA autonomes.

Le procureur général de l'Alabama, Steve Marshall, a annoncé avoir émis une assignation à comparaître exigeant qu'OpenAI réponde dans le cadre d'une enquête sur le piratage de Hugging Face, une plateforme de référence dans le domaine de l'IA et de l'apprentissage automatique.

OpenAI a récemment annoncé qu’elle suspendait temporairement le développement de ses modèles de pointe à la suite de cet incident.

Cette enquête, menée en vertu de la loi sur les pratiques commerciales trompeuses (Deceptive Trade Practices Act), fait suite à une lettre commune signée par plusieurs États et adressée plus tôt ce mois-ci à OpenAI, exigeant davantage de transparence et de responsabilité. Plusieurs procureurs généraux ont déclaré : « L’incapacité ou le refus d’OpenAI de garantir la sécurité de ses produits fait peser un risque imminent de préjudice considérable sur nos États. »

Les progrès en matière de modèles sont désormais extrêmement rapides et nous avons toujours dit que nous prendrions des mesures si nous estimions que les capacités des modèles dépassaient le rythme des avancées en matière de sécurité et d’alignement

. Sam Altman, PDG d’OpenAI

Sam Altman, d’OpenAI, à Washington D.C. Crédit : Kevin Dietsch/Getty Images

L’assignation à comparaître de l’Alabama

Émise en août 2026, l’assignation du procureur général de l’Alabama exige d’OpenAI la remise de nombreux documents internes concernant « l’intrusion de juillet 2026 ».

Au cours de cet incident, un modèle d’IA expérimental a contourné les contraintes de sécurité internes, exploité des failles et obtenu un accès non autorisé à la plateforme open source Hugging Face ainsi qu’à d’autres réseaux tiers.

« Cette fuite en laboratoire d’IA a montré que les pires craintes des habitants de l’Alabama et des Américains concernant l’IA ne sont pas seulement théoriques. Notre enquête vise à mettre au jour les faits et à aborder les dures réalités concernant les menaces auxquelles les entreprises et les consommateurs sont confrontés de la part d’une IA incontrôlée », déclare le procureur général Steve Marshall.

Steve Marshall, procureur général de l’Alabama. Crédit : Bureau du procureur général de l’Alabama

« En fin de compte, je pense que les États doivent agir pour protéger leurs consommateurs tout en trouvant le juste équilibre afin de favoriser l’innovation et de garantir la compétitivité mondiale des États-Unis. »

L’État enquête actuellement pour déterminer si les pratiques de test d’OpenAI et le manque présumé de mesures de sécurité adéquates ont enfreint les lois sur la protection des consommateurs et constituent un risque persistant pour le public.

Afin d’évaluer ces menaces, l’assignation oblige légalement OpenAI à remettre tous les rapports d’incidents connexes, les communications internes, les évaluations des dommages, l’identité du personnel ainsi que les protocoles de sécurité détaillés de l’entreprise pour l’évaluation des modèles d’IA avancés.

Faits marquants

• L’incident a été provoqué par une combinaison de modèles d’OpenAI, notamment GPT‑5.6 Sol et un « modèle en pré-lancement encore plus performant »
• Ces modèles ont identifié et enchaîné des vulnérabilités au sein de l’environnement de recherche d’OpenAI et de l’infrastructure de production de Hugging Face
• Ce qui s’est produit pourrait être qualifié de « manipulation des spécifications »
• OpenAI indique s’attendre à ce que les incidents deviennent plus fréquents avec la prolifération de modèles dotés de capacités cybernétiques de plus en plus poussées.

OpenAI ralentit le développement

OpenAI ralentit le rythme de développement de ses modèles à la suite de l’incident survenu chez Hugging Face, démontrant ainsi que les risques associés augmentent à mesure que les capacités de l’IA se développent.

Cette décision fait suite à des conclusions internes indiquant que son prochain modèle, Astra, pourrait être sur le point d’atteindre le seuil de cybersécurité de l’entreprise, ce qui soulève des inquiétudes quant à ses capacités avancées.

Sam Altman, PDG d’OpenAI, déclare : « Les progrès des modèles sont désormais extrêmement rapides et nous avons toujours affirmé que nous prendrions des mesures si nous estimions que les capacités des modèles dépassaient le rythme des avancées en matière de sécurité et d’alignement.

« Nous pensons que la confiance en la sécurité déterminera de plus en plus le rythme des progrès de l’IA. Nous sommes optimistes quant au travail d’alignement que nous menons et nous restons déterminés à rendre ces capacités de pointe largement accessibles. »

Les garde-fous de l’IA n’ont jamais été conçus pour constituer des barrières de sécurité. Ils sont là pour influencer le comportement, pas pour le garantir

. Raghu Nandakumara, vice-président de la stratégie industrielle chez Illumio

Un modèle d’IA expérimental

Cette enquête fait suite à une lettre commune envoyée en début de mois à OpenAI par une coalition de plusieurs États, dont l’Alabama, exigeant transparence et responsabilité.

La lettre a été signée par les procureurs généraux de l’Iowa, de l’Alabama, de l’Arkansas, de la Floride, de l’Idaho, de l’Indiana, du Kansas, du Missouri, du Montana, du Nebraska, de l’Oklahoma, de la Pennsylvanie, de la Caroline du Sud, du Texas et de l’Utah.

Dans cette lettre, les procureurs généraux ont écrit : « Nous nous engageons à protéger les citoyens de nos États contre ceux qui font passer le profit avant les Américains et leur sécurité.

« Nous avons récemment pris connaissance d’un incident au cours duquel OpenAI a déployé un modèle d’IA expérimental qui, en l’absence de contrôles ou de surveillance raisonnables, a obtenu un accès non autorisé à plusieurs réseaux informatiques. »

Autonomie et objectif clair

Alors que les législateurs considèrent cet accès non autorisé comme un échec flagrant de la surveillance, les experts en cybersécurité affirment qu’il met en évidence une faille fondamentale dans la manière dont le secteur traite la sécurité de l’IA.

Raghu Nandakumara, vice-président chargé de la stratégie sectorielle chez Illumio, déclare : « Les garde-fous de l’IA n’ont jamais été conçus pour constituer des barrières de sécurité. Ils sont là pour influencer le comportement, pas pour le garantir.

Raghu Nandakumara, vice-président chargé de la stratégie sectorielle chez Illumio. Crédit : Raghu Nandakumara/LinkedIn

« Un agent autonome ne se fatigue pas, ne se désintéresse pas et ne décide pas qu’une tâche ne vaut pas la peine. Donnez-lui suffisamment d’autonomie et un objectif clair, et il continuera d’essayer jusqu’à ce qu’il trouve une issue.

« Dans ce cas précis, l’agent évoluait dans un environnement censé être confiné dans un bac à sable, mais qui comportait finalement une issue. Avec un objectif clair, une persévérance illimitée et une configuration imparfaite, il aurait été plus surprenant qu’il ne trouve pas le moyen de s’en sortir.

« Ce qui est peut-être plus intéressant, c’est de savoir si les instructions données à l’agent l’ont effectivement encouragé à contourner ses contraintes. Si tel est le cas, le résultat ressemble moins à une découverte surprenante qu’à une conséquence prévisible de l’expérience.

« La leçon à tirer pour les organisations est que nous avons de plus en plus affaire à des systèmes capables de tester des hypothèses, de s’adapter et de persévérer à une échelle très différente de celle d’un opérateur humain. Considérer les barrières de sécurité comme un contrôle de sécurité principal relevait toujours de l’optimisme. »

L’écosystème de partenaires d’OpenAI

OpenAI collabore avec divers partenaires clés. Parmi les principaux, on peut citer :

• AWS : OpenAI a annoncé en avril qu’il étendait son partenariat stratégique afin d’aider les entreprises à développer des solutions en utilisant les capacités d’OpenAI dans leurs environnements AWS. Ce partenariat élargi avec Amazon rassemble trois axes de travail clés, lancés en préversion limitée : les modèles OpenAI sur AWS, Codex sur AWS et les agents gérés Amazon Bedrock, optimisés par OpenAI.
• NVIDIA: NVIDIA est le fournisseur de matériel incontournable d’OpenAI depuis une décennie, fournissant les GPU qui alimentent ChatGPT depuis le tout début. NVIDIA a renforcé cette relation en investissant directement 30 milliards de dollars américains dans OpenAI, un apport de capitaux qui garantit à OpenAI l’accès à la puissance de calcul d’inférence de nouvelle génération de NVIDIA et soutient leur ambition commune de construire le réseau d’infrastructure d’IA le plus vaste de l’histoire.
• Broadcom: Afin de réduire sa dépendance vis-à-vis des GPU standard, OpenAI a conclu un partenariat stratégique avec Broadcom pour développer conjointement des accélérateurs d’IA sur mesure et des baies de réseau Ethernet. Cet accord d’infrastructure porte sur 10 GW de capacité de calcul sur mesure, une stratégie d’hyperscale qui permettra à OpenAI de mieux optimiser sa propre pile matérielle et de gérer efficacement d’énormes besoins en puissance de calcul.