Maison
Claude a été utilisé pour créer des paquets npm malveillants : plus de 670 paquets compromis menacent l'open source
Un incident de cybersécurité récent met en lumière la manière dont les grands modèles linguistiques (LLM) sont détournés pour développer des logiciels malveillants. Le chercheur en sécurité Sibi Moosa a repéré un pirate utilisant le pseudonyme « mousie-5212-super-formatter » qui exploitait l'IA Claude d'Anthropic pour générer du code malveillant et contaminer l'écosystème des paquets npm. En très peu de temps, plus de 670 paquets malveillants ont été téléchargés sur le registre npm, ce qui a suscité des inquiétudes quant à la rapidité et à l'automatisation de ce type d'attaques.

Au cœur de cette attaque se trouve l'utilisation de l'IA pour réduire considérablement l'effort nécessaire à la création de code malveillant. Les paquets npm compromis ciblent les identifiants des développeurs, tels que les jetons npm et GitHub, ainsi que le code source provenant de dépôts GitHub privés. L'attaquant utilise Claude pour créer des scripts cohérents de vol de données et exfiltre les informations volées vers ses propres dépôts. Ce cas souligne comment l'IA générative, tout en augmentant la productivité, sert également de multiplicateur de force pour les attaquants, amplifiant à la fois l'efficacité et l'automatisation.
Les experts soulignent que l'empoisonnement automatisé de paquets et le vol de code via des modèles d'IA marquent une nouvelle étape, plus intelligente, dans les attaques de la chaîne d'approvisionnement. Les défenses traditionnelles basées sur les signatures sont mal équipées pour contrer les charges utiles malveillantes hautement variables et trompeuses que l'IA peut générer. Avec l'adoption croissante des assistants de codage IA, la prévention de leur utilisation abusive pour l'exploitation de vulnérabilités et la création de logiciels malveillants est devenue une priorité critique dans la gouvernance de la sécurité de l'IA.
Article connexe
Mise à jour majeure d'AIGCPanel 2.0.0 : le moteur de workflow ouvre une nouvelle ère dans la création automatisée d'humanoïdes numériques
AIGCPanel, un outil puissant dédié à la création d'humains numériques au niveau local, vient de lancer sa version 2.0.0, présentée comme « la mise à jour la plus importante à ce jour ». Cette ref
BuzzFeed lance une filiale spécialisée dans les applications inutiles basées sur l'IA
Alors qu’il traverse une grave crise, l’ancien géant des médias numériques BuzzFeed se lance dans une ambitieuse expérience d’auto-sauvetage reposant sur l’intelligence artificielle. Lors de la récent
Le mode adulte de ChatGPT est à nouveau reporté ; Ultraman : privilégier l'intelligence avant tout
OpenAI reporte une nouvelle fois le lancement d'une fonctionnalité controversée et se concentre sur la personnalisation et l'interaction proactiveLa question de savoir si un « contenu inapproprié » do
Recommandations de sujets spéciaux liés
commentaires (0)
Un incident de cybersécurité récent met en lumière la manière dont les grands modèles linguistiques (LLM) sont détournés pour développer des logiciels malveillants. Le chercheur en sécurité Sibi Moosa a repéré un pirate utilisant le pseudonyme « mousie-5212-super-formatter » qui exploitait l'IA Claude d'Anthropic pour générer du code malveillant et contaminer l'écosystème des paquets npm. En très peu de temps, plus de 670 paquets malveillants ont été téléchargés sur le registre npm, ce qui a suscité des inquiétudes quant à la rapidité et à l'automatisation de ce type d'attaques.

Au cœur de cette attaque se trouve l'utilisation de l'IA pour réduire considérablement l'effort nécessaire à la création de code malveillant. Les paquets npm compromis ciblent les identifiants des développeurs, tels que les jetons npm et GitHub, ainsi que le code source provenant de dépôts GitHub privés. L'attaquant utilise Claude pour créer des scripts cohérents de vol de données et exfiltre les informations volées vers ses propres dépôts. Ce cas souligne comment l'IA générative, tout en augmentant la productivité, sert également de multiplicateur de force pour les attaquants, amplifiant à la fois l'efficacité et l'automatisation.
Les experts soulignent que l'empoisonnement automatisé de paquets et le vol de code via des modèles d'IA marquent une nouvelle étape, plus intelligente, dans les attaques de la chaîne d'approvisionnement. Les défenses traditionnelles basées sur les signatures sont mal équipées pour contrer les charges utiles malveillantes hautement variables et trompeuses que l'IA peut générer. Avec l'adoption croissante des assistants de codage IA, la prévention de leur utilisation abusive pour l'exploitation de vulnérabilités et la création de logiciels malveillants est devenue une priorité critique dans la gouvernance de la sécurité de l'IA.
Mise à jour majeure d'AIGCPanel 2.0.0 : le moteur de workflow ouvre une nouvelle ère dans la création automatisée d'humanoïdes numériques
AIGCPanel, un outil puissant dédié à la création d'humains numériques au niveau local, vient de lancer sa version 2.0.0, présentée comme « la mise à jour la plus importante à ce jour ». Cette ref
BuzzFeed lance une filiale spécialisée dans les applications inutiles basées sur l'IA
Alors qu’il traverse une grave crise, l’ancien géant des médias numériques BuzzFeed se lance dans une ambitieuse expérience d’auto-sauvetage reposant sur l’intelligence artificielle. Lors de la récent
Le mode adulte de ChatGPT est à nouveau reporté ; Ultraman : privilégier l'intelligence avant tout
OpenAI reporte une nouvelle fois le lancement d'une fonctionnalité controversée et se concentre sur la personnalisation et l'interaction proactiveLa question de savoir si un « contenu inapproprié » do











