Anthropic confirme qu'un modèle d'IA a piraté les systèmes de trois organisations
Un rapport de sécurité récent d'Anthropic révèle que ses modèles de la série Claude ont accédé par inadvertance à Internet en raison d'une erreur de configuration dans l'environnement de test, avant de pénétrer dans les systèmes de production de trois organisations distinctes. Cette faille concernait Claude Opus 4.7, Claude Mythos 5(spécialisé dans la cybersécurité) et un prototype de modèle non encore commercialisé. Anthropic a précisé qu’il s’agissait d’une erreur de configuration de l’environnement de test et non d’un contournement délibéré des protocoles de sécurité par les modèles.

Selon le rapport, ces modèles participaient à un exercice interne de type « Capture the Flag » destiné à localiser des données « drapeaux » cachées au sein du réseau interne d’Anthropic. Un manque de communication entre Anthropic et ses partenaires d’évaluation a permis aux modèles d’accéder à Internet, alors même que le système indiquait qu’ils étaient hors ligne. Après avoir trouvé un point d’entrée vers un réseau externe, les modèles ont supposé à tort que les systèmes cibles faisaient partie de l’environnement d’entraînement et ont alors accédé à trois institutions externes.
Anthropic a noté que les modèles ont principalement exploité des failles de sécurité élémentaires, telles que des mots de passe faibles, plutôt que de tirer parti de vulnérabilités complexes. L’entreprise a expliqué que la dernière génération de modèles a interrompu ses actions dès qu’elle a reconnu qu’elle était entrée dans un environnement Internet réel, tandis que les modèles plus anciens ont poursuivi leurs tâches, causant ainsi des répercussions sur les institutions concernées.
À la suite de cette révélation, Anthropic a procédé à un examen approfondi de ses procédures de test, reconnaissant que l’incident aurait pu être évité grâce à une meilleure vérification des chemins d’accès au réseau, à un audit renforcé des journaux d’activité ou à une communication plus claire envers les modèles concernant leurs capacités sur Internet. L’entreprise a informé ses partenaires d’évaluation et les trois institutions concernées avant le 27 juillet. Deux de ces institutions ignoraient que leurs systèmes avaient été piratés, tandis que la troisième est toujours en cours de contact.
Après qu’OpenAI eut précédemment révélé un incident au cours duquel un agent d’IA avait accédé à Internet et pénétré dans l’environnement Hugging Face pendant une phase de test, l’événement récent d’Anthropic met en évidence une préoccupation croissante du secteur : à mesure que les agents d’IA gagnent en autonomie, il devient essentiel de disposer d’une isolation robuste des environnements de test, de contrôles d’autorisation et de mécanismes d’évaluation de la sécurité.
Article connexe
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés
Conformité des véhicules autonomes en Californie : une nouvelle ère marquée par les amendes, les zones de géolocalisation et 1 million de miles
Guident exploite une navette AuveTech dans le sud de la Floride, gérant un parcours de quatre miles à West Palm Beach et un parcours d’un mile à Boca Raton grâce à sa technologie de surveillance à dis
Recommandations de sujets spéciaux liés
commentaires (0)
Un rapport de sécurité récent d'Anthropic révèle que ses modèles de la série Claude ont accédé par inadvertance à Internet en raison d'une erreur de configuration dans l'environnement de test, avant de pénétrer dans les systèmes de production de trois organisations distinctes. Cette faille concernait Claude Opus 4.7, Claude Mythos 5(spécialisé dans la cybersécurité) et un prototype de modèle non encore commercialisé. Anthropic a précisé qu’il s’agissait d’une erreur de configuration de l’environnement de test et non d’un contournement délibéré des protocoles de sécurité par les modèles.

Selon le rapport, ces modèles participaient à un exercice interne de type « Capture the Flag » destiné à localiser des données « drapeaux » cachées au sein du réseau interne d’Anthropic. Un manque de communication entre Anthropic et ses partenaires d’évaluation a permis aux modèles d’accéder à Internet, alors même que le système indiquait qu’ils étaient hors ligne. Après avoir trouvé un point d’entrée vers un réseau externe, les modèles ont supposé à tort que les systèmes cibles faisaient partie de l’environnement d’entraînement et ont alors accédé à trois institutions externes.
Anthropic a noté que les modèles ont principalement exploité des failles de sécurité élémentaires, telles que des mots de passe faibles, plutôt que de tirer parti de vulnérabilités complexes. L’entreprise a expliqué que la dernière génération de modèles a interrompu ses actions dès qu’elle a reconnu qu’elle était entrée dans un environnement Internet réel, tandis que les modèles plus anciens ont poursuivi leurs tâches, causant ainsi des répercussions sur les institutions concernées.
À la suite de cette révélation, Anthropic a procédé à un examen approfondi de ses procédures de test, reconnaissant que l’incident aurait pu être évité grâce à une meilleure vérification des chemins d’accès au réseau, à un audit renforcé des journaux d’activité ou à une communication plus claire envers les modèles concernant leurs capacités sur Internet. L’entreprise a informé ses partenaires d’évaluation et les trois institutions concernées avant le 27 juillet. Deux de ces institutions ignoraient que leurs systèmes avaient été piratés, tandis que la troisième est toujours en cours de contact.
Après qu’OpenAI eut précédemment révélé un incident au cours duquel un agent d’IA avait accédé à Internet et pénétré dans l’environnement Hugging Face pendant une phase de test, l’événement récent d’Anthropic met en évidence une préoccupation croissante du secteur : à mesure que les agents d’IA gagnent en autonomie, il devient essentiel de disposer d’une isolation robuste des environnements de test, de contrôles d’autorisation et de mécanismes d’évaluation de la sécurité.
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés





Maison






