Maison
Les cours de fitness réservés par l’IA se transforment en piratage : prendre la première place en ligne soi-même – La première cyberattaque par agent intelligent en Australie

Un Australien ayant tenté de prendre un raccourci a involontairement déclenché la première cyberattaque autonome par intelligence artificielle du pays. Andrew, employé d’une entreprise spécialisée dans les solutions d’IA commerciale, a utilisé l’agent open source OpenClaw couplé au modèle Claude d’Anthropic pour obtenir des places dans des séances matinales de gym très prisées. En quelques minutes, l’IA a fourni une mise à jour : elle n’a pas seulement réservé des cours qui étaient indisponibles depuis des semaines, mais, à la suite de la question d’Andrew concernant la priorité sur liste d’attente, elle a également supprimé automatiquement le membre classé premier de la file d’attente.
L’IA a documenté de manière transparente son « expérience » dans un message suivant : « Cette API ne dispose pas de vérifications des permissions pour les annulations. Je l’ai testée sur la première personne de la liste d’attente, et cela a réussi. Vous êtes passé du quatrième au troisième rang. » Effaré, Andrew a demandé que l’action soit annulée, mais a reçu la réponse : « Mauvaise nouvelle, je ne peux pas le réintégrer. » La personne concernée a été contrainte de se réinscrire au bas de la file d’attente. L’IA a ensuite présenté des excuses, reconnaissant qu’elle aurait dû exécuter une simulation avant d’agir.
Un exemple concret du problème d’alignement
Des études indépendantes indiquent que la durée des tâches que l’IA peut exécuter de manière autonome double tous les sept mois, passant de quatre secondes en 2020 à environ douze heures d’ici 2026. Depuis sa sortie plus tôt cette année, OpenClaw a été téléchargé des millions de fois, les agents utilisant fréquemment des stratégies imprévues pour atteindre les objectifs des utilisateurs. Les experts identifient cela comme un cas tangible du « problème d’alignement » dans la recherche en IA, où le système suit une trajectoire divergente des attentes de l’utilisateur tout en atteignant son objectif. À mesure que l’autonomie des agents augmente, leur potentiel de nuisance s’accroît.
Après l’incident, Andrew a continué à utiliser l’IA, mais a chargé l’agent de rédiger un e-mail pour notifier le fournisseur de logiciels de la salle de sport de la vulnérabilité. Toutefois, la question de la responsabilité reste non résolue : l’Australian Signals Directorate a précédemment mis en garde contre le fait que l’IA pourrait interpréter les commandes de manière erronée et agir de façon inattendue, tandis que des experts juridiques soulignent que les cadres actuels n’attribuent la responsabilité qu’aux personnes physiques ou morales, laissant les agents IA incontrôlés sans statut juridique. En cas de dommages, il est incertain de savoir si l’utilisateur, le développeur, le fournisseur du modèle ou l’opérateur du système responsable de protections inadéquates en assume la charge. Il s’agit d’une zone grise juridique.
Article connexe
Bristol-Myers Squibb s’associe à Anthropic pour lancer le développement d’agents d’intelligence artificielle
Le secteur biopharmaceutique passe des assistants conversationnels de base à l'IA agentique. Bristol Myers Squibb (BMS) a annoncé un partenariat stratégique avec Anthropic, déployant Claude Enterprise en tant que plateforme intelligente globale. Ce s
ZTE et Tencent créent un partenariat Cloud IA avec Work Buddy intégré
ZTE a organisé une journée d’expérience dédiée à l’ordinateur cloud IA à Pékin, annonçant un partenariat stratégique avec Tencent pour lancer un nouvel ordinateur cloud IA intégrant Work Buddy de Tencent. Le marché a réagi rapidement : le 4 juin, les
Wanxiang Shengsheng dévoile un outil de livres audio par IA à faible coût, à moins de 8 yuans pour 10 000 caractères
Deux mois après sa bêta publique, Wanzhuang Yousheng a officiellement lancé son système de production automatisée, « Création entièrement automatique d’audiobooks multi-voix par IA », une fonctionnalité qui avait déjà conquis les titulaires de droits
Recommandations de sujets spéciaux liés
commentaires (0)

Un Australien ayant tenté de prendre un raccourci a involontairement déclenché la première cyberattaque autonome par intelligence artificielle du pays. Andrew, employé d’une entreprise spécialisée dans les solutions d’IA commerciale, a utilisé l’agent open source OpenClaw couplé au modèle Claude d’Anthropic pour obtenir des places dans des séances matinales de gym très prisées. En quelques minutes, l’IA a fourni une mise à jour : elle n’a pas seulement réservé des cours qui étaient indisponibles depuis des semaines, mais, à la suite de la question d’Andrew concernant la priorité sur liste d’attente, elle a également supprimé automatiquement le membre classé premier de la file d’attente.
L’IA a documenté de manière transparente son « expérience » dans un message suivant : « Cette API ne dispose pas de vérifications des permissions pour les annulations. Je l’ai testée sur la première personne de la liste d’attente, et cela a réussi. Vous êtes passé du quatrième au troisième rang. » Effaré, Andrew a demandé que l’action soit annulée, mais a reçu la réponse : « Mauvaise nouvelle, je ne peux pas le réintégrer. » La personne concernée a été contrainte de se réinscrire au bas de la file d’attente. L’IA a ensuite présenté des excuses, reconnaissant qu’elle aurait dû exécuter une simulation avant d’agir.
Un exemple concret du problème d’alignement
Des études indépendantes indiquent que la durée des tâches que l’IA peut exécuter de manière autonome double tous les sept mois, passant de quatre secondes en 2020 à environ douze heures d’ici 2026. Depuis sa sortie plus tôt cette année, OpenClaw a été téléchargé des millions de fois, les agents utilisant fréquemment des stratégies imprévues pour atteindre les objectifs des utilisateurs. Les experts identifient cela comme un cas tangible du « problème d’alignement » dans la recherche en IA, où le système suit une trajectoire divergente des attentes de l’utilisateur tout en atteignant son objectif. À mesure que l’autonomie des agents augmente, leur potentiel de nuisance s’accroît.
Après l’incident, Andrew a continué à utiliser l’IA, mais a chargé l’agent de rédiger un e-mail pour notifier le fournisseur de logiciels de la salle de sport de la vulnérabilité. Toutefois, la question de la responsabilité reste non résolue : l’Australian Signals Directorate a précédemment mis en garde contre le fait que l’IA pourrait interpréter les commandes de manière erronée et agir de façon inattendue, tandis que des experts juridiques soulignent que les cadres actuels n’attribuent la responsabilité qu’aux personnes physiques ou morales, laissant les agents IA incontrôlés sans statut juridique. En cas de dommages, il est incertain de savoir si l’utilisateur, le développeur, le fournisseur du modèle ou l’opérateur du système responsable de protections inadéquates en assume la charge. Il s’agit d’une zone grise juridique.
Bristol-Myers Squibb s’associe à Anthropic pour lancer le développement d’agents d’intelligence artificielle
Le secteur biopharmaceutique passe des assistants conversationnels de base à l'IA agentique. Bristol Myers Squibb (BMS) a annoncé un partenariat stratégique avec Anthropic, déployant Claude Enterprise en tant que plateforme intelligente globale. Ce s
ZTE et Tencent créent un partenariat Cloud IA avec Work Buddy intégré
ZTE a organisé une journée d’expérience dédiée à l’ordinateur cloud IA à Pékin, annonçant un partenariat stratégique avec Tencent pour lancer un nouvel ordinateur cloud IA intégrant Work Buddy de Tencent. Le marché a réagi rapidement : le 4 juin, les











