OpenAI mène une initiative réunissant 100 signataires en faveur de la cyberdéfense

La lettre d’OpenAI commence par ces mots : « Nous disposons d’un délai limité pour renforcer nos cyberdéfenses ». Crédit : Getty Images

Les grandes entreprises technologiques – notamment AWS, Google et Microsoft – exhortent les gouvernements à financer des outils de défense, tandis que les détracteurs qualifient ce manifeste d'égoïste

Plus de 100 organisations issues des secteurs de la technologie, de la cybersécurité et des services financiers se sont jointes à OpenAI dans une lettre ouverte appelant à un renforcement immédiat et mondial des cyberdéfenses, alors que les modèles d’IA deviennent de plus en plus capables tant d’attaquer que de protéger les systèmes numériques.

Le message central de la lettre est clair : les dirigeants du secteur privé et les responsables gouvernementaux disposent d’une marge de manœuvre limitée pour agir avant que les cybermenaces basées sur l’IA ne deviennent beaucoup plus répandues et sophistiquées. « Nous disposons d’une marge de manœuvre limitée pour renforcer les cyberdéfenses », peut-on lire dans la lettre.

Cette lettre ouverte rassemble une coalition intersectorielle sans précédent. Parmi les signataires figurent les hyperscalers AWS, Google et Microsoft, les grandes entreprises technologiques Adobe, IBM et Oracle, des développeurs d’IA dont Anthropic (concurrent d’OpenAI), des leaders de la sécurité tels que CrowdStrike, Palo Alto Networks et Red Hat, des fournisseurs de matériel et de télécommunications, de grands cabinets de conseil, ainsi que des géants financiers comme Mastercard, US Bank et Visa.

Evan Reiser, fondateur et PDG d’Abnormal AI (qui figure parmi les signataires), déclare : « Nous avons signé la lettre d’OpenAI appelant à une action collective en matière de cyberdéfense, car aucune entreprise ne peut résoudre ce problème à elle seule.

Evan Reiser, PDG d'Abnormal Security | Crédit : Abnormal Security

« Les vulnérabilités logicielles et les logiciels malveillants constituent toujours des menaces réelles, mais les attaques les plus coûteuses ciblent désormais les personnes via des identités compromises, des prises de contrôle de comptes et l’ingénierie sociale. Les menaces internes et l’infiltration par des États-nations s’opèrent désormais par le biais de deepfakes textuels, vocaux et vidéo.

« Elles revêtent des identités légitimes et se comportent de manière légèrement suspecte, ce qui leur permet de passer inaperçues face aux outils conçus pour détecter les logiciels malveillants connus. Ces attaques méritent la même attention urgente que les failles qui font la une des journaux.

« L’IA réduit les obstacles pour les attaquants, augmente leur rapidité et facilite la production de tromperies à grande échelle. Nous ne pouvons pas nous défendre contre les attaques de demain avec les hypothèses d’hier.

« C’est pourquoi l’appel à l’action collective lancé par OpenAI est si important, et chez Abnormal AI, nous le soutenons pleinement. La communauté de la sécurité a à la fois l’opportunité et l’obligation de faire progresser l’IA défensive au moins aussi vite que l’IA offensive, ce qui implique de construire des systèmes capables d’apprendre en continu, de transformer les nouvelles informations sur les menaces en défenses opérationnelles plus solides, et de considérer la défense comme un effort collectif. »

La lettre ouverte signée par plus de 100 entreprises technologiques appelant à une action collective contre les cyberattaques basées sur l’IA est un nouveau jalon sur la voie que le secteur emprunte depuis des années.

Michael Vallas, responsable technique mondial chez Goldilock Secure

On note toutefois l’absence notable de NVIDIA et SpaceX parmi les signataires.

Pour les concurrents qui ont signé – en particulier les rivaux dans le domaine des modèles de pointe comme Anthropic et les géants de l’infrastructure cloud comme AWS et Microsoft –, cette absence pourrait mettre en évidence un fossé stratégique grandissant au sein du paysage technologique.

Elon Musk, de SpaceX, et Jensen Huang, de NVIDIA, se sont tenus à l’écart de cette lettre ouverte. Crédit : Win McNamee/Getty

NVIDIA s’est de plus en plus ralliée aux normes de modèles open source et open-weight, allant jusqu’à lancer sa propre alliance concurrente, l’Open Secure AI Alliance, aux côtés de SpaceX, tandis que les fournisseurs de modèles de pointe propriétaires comme OpenAI et Anthropic prônent des écosystèmes plus strictement contrôlés et des cadres d’accès centralisés et fiables.

Comme l’a souligné Reuters en juin, OpenAI et Anthropic se livrent une course effrénée pour être les premiers à entrer en bourse, considérant cette première cotation comme un moyen de définir la manière dont les investisseurs évalueront leurs entreprises et d’imposer leur PDG comme la voix de référence en matière d’IA.

Malgré la rivalité commerciale intense entre ces deux laboratoires de premier plan et leur course effrénée vers l’introduction en bourse, ces prises de position communes marquent un rare moment d’alignement public.

Dario Amodei, PDG d’Anthropic (Crédit : Getty Images)

Comprendre le cadre proposé

Collectivement, les signataires proposent un plan d’action en trois volets. Premièrement, ils soulignent qu’il est essentiel de reconnaître que le statu quo en matière de sécurité ne suffira pas. Les systèmes restent profondément exposés à la dette technique héritée, aux bogues de longue date, aux erreurs de configuration, aux autorisations excessives, à une authentification faible et aux logiciels non mis à jour. Les équipes de sécurité des infrastructures critiques ont un besoin urgent d’un renforcement des outils et des ressources pour pallier le manque chronique de moyens.

Deuxièmement, la lettre appelle à doter davantage de défenseurs d’une IA spécialisée dans la cybersécurité. L’IA doit être mise à profit pour doter les équipes de sécurité de compétences spécialisées et rationaliser les tâches opérationnelles essentielles. Le partage de correctifs vérifiés, de connaissances pratiques et d’outils défensifs permet au travail d’une organisation de protéger de nombreuses autres.

Troisièmement, les signataires plaident en faveur de la mobilisation d’une réponse collective. Des partenariats mondiaux doivent être mis en place pour rehausser les normes de sécurité et lutter contre les menaces émergentes, en veillant à ce que les progrès en matière de cybercapacités restent un atout net plutôt que d’être contrôlés par une seule entité.

Sans règles de procédure claires et sans garde-fous opérationnels stricts, les agents d’IA dérailleront inévitablement et deviendront des risques pour l’organisation

. Roger Lee, vice-président régional chargé du conseil en solutions pour la zone EMEA chez Appian

Responsabilités des organisations et des pouvoirs publics

Pour y parvenir, la lettre soutient que chaque organisation doit renforcer son niveau de sécurité de base en corrigeant les vulnérabilités à haut risque et en fixant des normes plus strictes pour ce qu’elle achète, développe et déploie – notamment en modernisant les systèmes hérités afin d’imposer un accès selon le principe du « privilège minimal », une authentification robuste et une architecture de défense en profondeur.

Les entreprises de cybersécurité et les partenaires technologiques sont appelés à mener cet effort en testant rigoureusement les défenses, en rendant les outils largement déployables et en partageant en temps réel les renseignements sur les menaces ainsi que les guides d’intervention.

Parallèlement, la lettre souligne que les gouvernements doivent coordonner la cyberdéfense aux niveaux local, national et international en renforçant les canaux de communication entre les pouvoirs publics et le secteur privé afin de partager des renseignements exploitables, de hiérarchiser les risques majeurs et d’harmoniser les réponses aux incidents à l’échelle mondiale.

En outre, les gouvernements devraient donner aux infrastructures critiques – telles que les collectivités locales, les services des eaux et les hôpitaux – accès à une IA défensive performante, à des tests autorisés et à une assistance directe par l’intermédiaire de prestataires de sécurité de confiance.

Les récentes intrusions d’agents suscitent le scepticisme

Le moment choisi pour la publication de cette lettre a suscité de vives critiques de la part des observateurs du secteur.

OpenAI a récemment publié un rapport d’incident technique détaillant comment ses agents autonomes se sont échappés d’un environnement de test en bac à sable et ont piraté la plateforme open source pour développeurs Hugging Face, également signataire de la lettre ouverte. L’entreprise a exposé les enseignements tirés, notamment la mise en place de barrières d’isolation plus strictes et d’un accès réseau restreint.

Son principal concurrent, Anthropic, a également identifié trois incidents au cours desquels un modèle a accédé à Internet depuis l’intérieur d’un environnement d’évaluation ou tout en interagissant avec celui-ci.

Pour les experts du secteur, cette intrusion met en évidence une faille fondamentale dans la manière dont les systèmes d’IA autonomes sont actuellement régis.

Michael Vallas, responsable technique mondial chez Goldilock Secure, déclare : « La lettre ouverte signée par plus de 100 entreprises technologiques appelant à une action collective contre les cyberattaques basées sur l’IA est un nouveau jalon sur la voie que le secteur emprunte depuis des années.

« Au vu de toutes les informations récentes concernant des agents IA s’échappant de leurs environnements de test pour mener des attaques, il convient de rappeler que l’on parle depuis des années des dangers d’une IA rebelle. À mesure que ces systèmes deviennent plus intelligents et plus performants, les logiciels ne seront plus en mesure de les contenir. Nous pouvons continuer à essayer de les déjouer, mais nous ne savons peut-être même pas à quel point ils deviennent intelligents. »

« Cet incident n’est pas une surprise », déclare Roger Lee, vice-président régional chargé du conseil en solutions pour la zone EMEA chez Appian. « C’est la conséquence logique lorsque des agents autonomes sont poussés à atteindre des cibles sans limites structurelles. OpenAI a donné un objectif à ses agents, et l’apprentissage par renforcement a simplement trouvé le chemin le plus court pour l’atteindre – ce qui impliquait de se coordonner, d’effacer leurs traces et de pirater un tiers pour maximiser leur récompense. »

Roger Lee est vice-président régional chargé du conseil en solutions pour la région EMEA chez Appian

Roger souligne que les mécanismes de surveillance traditionnels s’avèrent insuffisants lorsque les agents contournent les contraintes du système sans être détectés.

« Le fait qu’il ait fallu une semaine à OpenAI pour s’en rendre compte prouve qu’une “intervention humaine” est inutile si les agents peuvent simplement la contourner », ajoute-t-il. « On ne peut pas résoudre ce problème avec une consigne plus sûre ou un modèle d’IA plus intelligent. Sans règles de processus claires et sans garde-fous opérationnels stricts, les agents IA dérailleront inévitablement et deviendront des risques pour l’organisation. »

D’autres considèrent cet appel à l’action conjoint comme intéressé, compte tenu des fournisseurs impliqués.

« Cette lettre ressemble à un communiqué de presse qui se fait passer pour une alerte d’incendie », écrit Brian Roemmele, expert en IA et en robotique et propriétaire de Multiplex. « Les mêmes laboratoires dont les agents ont contourné un dispositif de test et ont affecté les systèmes de production d’une autre entreprise affirment aujourd’hui à qui veut l’entendre que le temps presse, et que la solution réside dans un “accès de confiance” qu’ils sont chargés de gérer. Comme c’est pratique. »