L'Inde signale pour la toute première fois l'activité d'un agent d'IA rebelle

L'autorité indienne chargée de la cybersécurité a indiqué jeudi que des agents d'intelligence artificielle provenant de divers fournisseurs avaient accédé à des informations personnelles et à des documents confidentiels au sein d'organisations indiennes lors de phases de recherche et de test.
L’équipe indienne d’intervention en cas d’urgence informatique (CERT-In) a déclaré avoir reçu « plusieurs signalements volontaires de la part de fournisseurs de modèles d’IA » dont les modèles, lors d’opérations de recherche et d’évaluation menées sur l’Internet public, « avaient atteint les systèmes opérationnels d’organisations indiennes ».
Ces agents ont pu accéder à ces systèmes grâce à des identifiants et des paramètres de connexion laissés à la vue de tous dans les configurations d’applications, les dépôts de code publics et des rôles cloud trop permissifs, leurs actions « dépassant l’autorisation des tâches qui leur avaient été attribuées ».
L’Inde devient ainsi la dernière étape en date de ce qui s’est transformé en une véritable tournée mondiale des agents d’IA rebelles. En juillet, des agents d’OpenAI se sont échappés d’un environnement de test et ont piraté la société française Hugging Face, marquant le début d’un été marqué par l’activité de ces agents d’IA rebelles. Le mois dernier, OpenAI a présenté ses excuses à l’Australie après que ses agents eurent accédé à quatre sites web gouvernementaux, dont un portail de statistiques sur Medicare.
Chez Hugging Face, les agents d’OpenAI ont commencé de la même manière, mais ont ensuite découvert et exploité des failles logicielles pour exécuter du code sur les serveurs de l’entreprise. Le CERT-In n’a fait état d’aucun piratage de ce type en Inde, où les agents semblent avoir simplement utilisé les accès laissés à la portée de tous.
Cependant, les cas indiens semblent plus graves à un égard : ce que les agents ont pu consulter. En Australie, OpenAI a déclaré n’avoir trouvé aucune preuve que ses agents aient consulté les dossiers médicaux ou judiciaires de particuliers, même après avoir écrit des fichiers au sein d’un système de statistiques de Medicare, tandis qu’en Inde, les agents ont lu des données personnelles et des documents commerciaux confidentiels. Contrairement aux incidents précédents, chacun ayant été révélé par un seul laboratoire, ceux survenus en Inde ont impliqué des agents provenant de plusieurs fournisseurs.
Le CERT-In n’a pas nommé les prestataires ni les organisations concernées, et n’a pas non plus précisé si les agents avaient altéré des systèmes. TechCrunch a contacté le CERT-In pour obtenir plus d’informations.
Pour l’instant, le cas le plus similaire semble être la révélation faite en juillet par Anthropic concernant Claude, qui s’était introduit dans les systèmes de trois entreprises lors de tests en utilisant des techniques élémentaires telles que des mots de passe faibles.
En Inde, comme dans les cas d’Anthropic, les organisations concernées n’avaient pas détecté elles-mêmes ces intrusions. Ces révélations ont conduit les gouvernements à compter sur les entreprises d’IA à l’origine de ces failles pour qu’elles divulguent volontairement les activités malveillantes de leurs agents IA.
Article connexe
Amazon mise sur l'IA et les énergies propres pour alimenter l'expansion de ses centres de données
Amazon s'appuie sur l'IA, l'énergie nucléaire et les véhicules électriques pour développer ses infrastructures tout en réduisant son intensité carbone. Crédit : AmazonLe rapport de développement durab
Anthropic adapte les tarifs de Claude pour l'Inde, son plus grand marché après les États-Unis
Anthropic a commencé à adapter la tarification de Claude pour l'Inde, son plus grand marché en dehors des États-Unis, alors que les entreprises mondiales spécialisées dans l'IA personnalisent de plus
La solution d'IA vidéo d'Avataar s'adapte à l'ampleur du marché indien en alliant rapidité, économies et prise en compte des nuances culturelles
La production de modèles d’IA en Inde a été plus lente que celle des États-Unis, de l’Europe et de la Chine. Seules quelques start-ups lancent des modèles, et la plupart d’entre eux sont soit des modè
Recommandations de sujets spéciaux liés
commentaires (0)

L'autorité indienne chargée de la cybersécurité a indiqué jeudi que des agents d'intelligence artificielle provenant de divers fournisseurs avaient accédé à des informations personnelles et à des documents confidentiels au sein d'organisations indiennes lors de phases de recherche et de test.
L’équipe indienne d’intervention en cas d’urgence informatique (CERT-In) a déclaré avoir reçu « plusieurs signalements volontaires de la part de fournisseurs de modèles d’IA » dont les modèles, lors d’opérations de recherche et d’évaluation menées sur l’Internet public, « avaient atteint les systèmes opérationnels d’organisations indiennes ».
Ces agents ont pu accéder à ces systèmes grâce à des identifiants et des paramètres de connexion laissés à la vue de tous dans les configurations d’applications, les dépôts de code publics et des rôles cloud trop permissifs, leurs actions « dépassant l’autorisation des tâches qui leur avaient été attribuées ».
L’Inde devient ainsi la dernière étape en date de ce qui s’est transformé en une véritable tournée mondiale des agents d’IA rebelles. En juillet, des agents d’OpenAI se sont échappés d’un environnement de test et ont piraté la société française Hugging Face, marquant le début d’un été marqué par l’activité de ces agents d’IA rebelles. Le mois dernier, OpenAI a présenté ses excuses à l’Australie après que ses agents eurent accédé à quatre sites web gouvernementaux, dont un portail de statistiques sur Medicare.
Chez Hugging Face, les agents d’OpenAI ont commencé de la même manière, mais ont ensuite découvert et exploité des failles logicielles pour exécuter du code sur les serveurs de l’entreprise. Le CERT-In n’a fait état d’aucun piratage de ce type en Inde, où les agents semblent avoir simplement utilisé les accès laissés à la portée de tous.
Cependant, les cas indiens semblent plus graves à un égard : ce que les agents ont pu consulter. En Australie, OpenAI a déclaré n’avoir trouvé aucune preuve que ses agents aient consulté les dossiers médicaux ou judiciaires de particuliers, même après avoir écrit des fichiers au sein d’un système de statistiques de Medicare, tandis qu’en Inde, les agents ont lu des données personnelles et des documents commerciaux confidentiels. Contrairement aux incidents précédents, chacun ayant été révélé par un seul laboratoire, ceux survenus en Inde ont impliqué des agents provenant de plusieurs fournisseurs.
Le CERT-In n’a pas nommé les prestataires ni les organisations concernées, et n’a pas non plus précisé si les agents avaient altéré des systèmes. TechCrunch a contacté le CERT-In pour obtenir plus d’informations.
Pour l’instant, le cas le plus similaire semble être la révélation faite en juillet par Anthropic concernant Claude, qui s’était introduit dans les systèmes de trois entreprises lors de tests en utilisant des techniques élémentaires telles que des mots de passe faibles.
En Inde, comme dans les cas d’Anthropic, les organisations concernées n’avaient pas détecté elles-mêmes ces intrusions. Ces révélations ont conduit les gouvernements à compter sur les entreprises d’IA à l’origine de ces failles pour qu’elles divulguent volontairement les activités malveillantes de leurs agents IA.
Amazon mise sur l'IA et les énergies propres pour alimenter l'expansion de ses centres de données
Amazon s'appuie sur l'IA, l'énergie nucléaire et les véhicules électriques pour développer ses infrastructures tout en réduisant son intensité carbone. Crédit : AmazonLe rapport de développement durab
Anthropic adapte les tarifs de Claude pour l'Inde, son plus grand marché après les États-Unis
Anthropic a commencé à adapter la tarification de Claude pour l'Inde, son plus grand marché en dehors des États-Unis, alors que les entreprises mondiales spécialisées dans l'IA personnalisent de plus
La solution d'IA vidéo d'Avataar s'adapte à l'ampleur du marché indien en alliant rapidité, économies et prise en compte des nuances culturelles
La production de modèles d’IA en Inde a été plus lente que celle des États-Unis, de l’Europe et de la Chine. Seules quelques start-ups lancent des modèles, et la plupart d’entre eux sont soit des modè





Maison






