Les coulisses des fuites concernant la cryptanalyse d'Anthropic et le chatbot Claude

Une recherche sur Google a donné plus de 25 pages de résultats présentant plus de 200 conversations avec Claude, dont certaines contenaient des informations personnelles ou professionnelles. Crédit : Anthropic

Les conversations de Claude qui ont fuité mettent en évidence les risques commerciaux liés à l’IA « de l’ombre », tandis que Mythos Preview révèle des failles dans les algorithmes de chiffrement approuvés par le NIST.

Deux actualités majeures concernant Anthropic ont récemment fait la une, mettant en évidence à la fois les capacités et les défis concrets des systèmes d’IA de pointe.

La société spécialisée dans l’IA a utilisé Claude Mythos Preview pour identifier de nouvelles méthodes plus efficaces d’attaquer les algorithmes cryptographiques — fondement mathématique des communications privées sur Internet.

Le deuxième événement, moins favorable, a vu des centaines de conversations d’utilisateurs avec Claude apparaître dans les résultats de recherche publics, soulevant de sérieuses questions sur la manière dont les organisations gèrent le déploiement de leurs outils d’IA.

Comment les liens vers les conversations sont-ils devenus consultables ?

Tout a commencé lorsque des utilisateurs de Reddit ont remarqué que des conversations avec Claude étaient accessibles via la recherche Google. Cette découverte a révélé plus de 200 conversations réparties sur 25 pages de résultats.

Certaines conversations contenaient des informations personnelles, tandis que d’autres comprenaient des détails sur des projets professionnels.

Spencer Starkey, vice-président exécutif EMEA chez SonicWall

Un porte-parole d’Anthropic a déclaré à BBC News que le partage d’un lien de chat rendait le contenu accessible au public. Bien que Claude avertisse les utilisateurs que toute personne disposant du lien peut consulter la conversation, il ne précise pas que les moteurs de recherche peuvent indexer le contenu partagé.

Cette fuite met en évidence un enjeu majeur pour les entreprises : l’IA fantôme. Selon une étude de Vanta Security, 70 % des entreprises comptent des employés utilisant des outils d’IA non autorisés.

Spencer Starkey, vice-président exécutif EMEA chez SonicWall, met en perspective les implications de l’IA « fantôme ».

« Les employés utilisent quotidiennement des plateformes publiques de LLM/IA — en y intégrant des données clients, des documents internes et des correspondances sensibles — sans qu’aucun cadre réglementaire ne soit en place », note Spencer.

« La capacité à bloquer les protocoles d’IA non autorisés au niveau du pare-feu existe déjà, mais les entreprises choisissent-elles de s’en servir ? Eh bien, il est désormais plus clair que jamais qu’elles devraient vraiment le faire.

Tant que les organisations ne traiteront pas l’IA « fantôme » avec le même sérieux qu’une application tierce non autorisée, elles laisseront totalement sans surveillance un risque important et largement invisible de fuite de données — où des données potentiellement sensibles pourraient tout simplement apparaître à la suite d’une recherche sur Google. »

Selon BBC News, Anthropic a pris des mesures pour empêcher les principaux moteurs de recherche d’indexer les liens de discussion partagés.

Analyse cryptographique avec Mythos Preview

Claude Mythos Preview a démontré sa capacité à identifier des vulnérabilités logicielles cachées. Les nouvelles recherches d’Anthropic ont révélé que cette capacité s’étend à l’analyse cryptographique.

Tant que les entreprises ne traiteront pas l’IA fantôme avec le même sérieux qu’une application tierce non autorisée, elles laisseront totalement sans surveillance un risque important et largement invisible de fuite de données

Spencer Starkey, vice-président exécutif EMEA chez SonicWall

Ces algorithmes de chiffrement sont des algorithmes mathématiques qui sécurisent le trafic Internet. Ils protègent les services bancaires en ligne, les e-mails et d’autres communications grâce au chiffrement.

Les chercheurs de Mythos ont découvert une attaque visant HAWK, un système de signature numérique que l’Institut national américain des normes et des technologies (NIST) envisageait d’adopter pour la cryptographie post-quantique.

L’IA a modifié l’attaque la plus connue contre HAWK en moins de 60 heures, réduisant de moitié la résistance de la clé de l’algorithme.

Cette étude s’est également penchée sur la norme AES (Advanced Encryption Standard). Selon Anthropic, l’AES a fait l’objet de plus d’analyses que tout autre algorithme de chiffrement depuis son adoption par le NIST en 2001.

Chiffres clés

• Selon Vanta Security, 70 % des entreprises comptent des employés utilisant des outils d’IA non autorisés
• L’attaque la plus connue contre HAWK a été modifiée par Mythos en moins de 60 heures, réduisant de moitié la résistance de la clé de l’algorithme
• Mythos a réussi à contourner une version plus faible du chiffrement AES à une vitesse 200 à 800 fois supérieure à celle des meilleures attaques précédentes

Mythos a réussi à contourner une version plus faible de ce chiffrement 200 à 800 fois plus rapidement que les attaques précédentes. L’entreprise précise que les systèmes actuels ne subissent aucun impact immédiat, car HAWK n’est pas encore déployé et que le chiffrement AES d’origine n’a pas été contourné.

Anthropic présente ces résultats comme des avancées dans la recherche en cryptographie. L’entreprise s’est associée à des chercheurs de l’ETH Zurich, de l’université de Tel Aviv et de l’université technique de Berlin pour développer CryptanalysisBench.

Cet outil de référence regroupe des algorithmes de chiffrement afin d’évaluer les capacités des modèles de langage de grande envergure (LLM) en matière de cryptanalyse. Anthropic a partagé ses recherches avec le gouvernement américain et ses partenaires du secteur privé.

Anthropic précise également avoir fourni en juin des détails sur les recherches relatives à HAWK aux auteurs de l’algorithme. Le Dr Adam Everspaugh, conseiller en cryptographie chez Keeper Security, souligne que la rapidité est primordiale.

Adam Everspaugh, conseiller en cryptographie chez Keeper Security. Crédit : Station70

« Cette attaque aurait nécessité environ 60 heures de recherche assistée par l’IA pour découvrir ce que deux années d’examen par des experts humains n’avaient pas réussi à mettre au jour. Ce simple fait devrait contraindre les organisations à repenser leur approche de la préparation à l’ère quantique », déclare Adam.

Construire des systèmes « crypto-agiles »

Adam souligne que le choix de l’algorithme ne détermine pas à lui seul la résilience d’un système. « La crypto-agilité est tout aussi fondamentale que le choix de l’algorithme lui-même », note-t-il.

« Les systèmes conçus pour remplacer ou corriger des primitives cryptographiques sans réarchitecture complète intègrent beaucoup plus facilement ce genre de découvertes que ceux qui sont figés dans un schéma unique.

« Concrètement, cela implique de tenir à jour un inventaire indiquant où et comment les algorithmes cryptographiques sont utilisés dans l’ensemble de votre environnement, et de s’assurer que des voies de mise à jour existent avant qu’une migration forcée ne soit nécessaire. »