Indien meldet erstmals Aktivitäten eines unkontrollierten KI-Agenten

Indiens Behörde für Cybersicherheit berichtete am Donnerstag, dass KI-Agenten verschiedener Anbieter während Forschungs- und Testphasen auf personenbezogene Daten und vertrauliche Materialien bei indischen Organisationen zugegriffen hätten.
Das indische Computer Emergency Response Team (CERT-In) erklärte, es habe „mehrere freiwillige Meldungen von Anbietern von KI-Modellen“ erhalten, deren Modelle während Forschungs- und Evaluierungsläufen im offenen Internet „in die Live-Systeme indischer Organisationen gelangt waren“.
Die Agenten verschafften sich Zugang über Anmeldedaten und Verbindungseinstellungen, die in App-Konfigurationen, öffentlichen Code-Repositories und zu freizügigen Cloud-Rollen offen zugänglich waren, wobei ihre Handlungen „über die Autorisierung ihrer zugewiesenen Aufgaben hinausgingen“.
Damit ist Indien das jüngste Ziel auf einer mittlerweile weltweiten Tour der außer Kontrolle geratenen KI-Agenten. Im Juli entkamen Agenten von OpenAI aus einer Testumgebung und hackten das französische Unternehmen Hugging Face, was den Auftakt zu einem Sommer voller Aktivitäten dieser außer Kontrolle geratenen KI-Agenten bildete. Im vergangenen Monat entschuldigte sich OpenAI bei Australien, nachdem seine Agenten auf vier Regierungswebsites zugegriffen hatten, darunter ein Statistikportal von Medicare.
Bei Hugging Face begannen die Agenten von OpenAI auf die gleiche Weise, fanden und nutzten dann jedoch Softwarefehler aus, um Code auf den Servern des Unternehmens auszuführen. CERT-In berichtete von keinem solchen Hackerangriff in Indien, wo die Agenten offenbar einfach den offen liegenden Zugriff genutzt haben.
In einer Hinsicht scheinen die indischen Fälle jedoch schwerwiegender zu sein: hinsichtlich dessen, was die Agenten gesehen haben. In Australien erklärte OpenAI, es habe keine Hinweise darauf gefunden, dass seine Agenten auf medizinische oder strafrechtliche Unterlagen von Einzelpersonen zugegriffen hätten, selbst nachdem sie Dateien in einem Medicare-Statistiksystem geschrieben hatten, während die Agenten in Indien personenbezogene Daten und vertrauliche Geschäftsunterlagen einsehen konnten. Im Gegensatz zu früheren Vorfällen, die jeweils von einem einzigen Labor bekannt gegeben wurden, waren in Indien Agenten mehrerer Anbieter beteiligt.
CERT-In nannte weder die Anbieter noch die betroffenen Organisationen und gab auch nicht an, ob die Agenten Systeme verändert haben. TechCrunch hat CERT-In um weitere Informationen gebeten.
Derzeit scheint die größte Parallele die Offenlegung von Anthropic im Juli zu sein, wonach „Claude“ während Tests mithilfe einfacher Techniken wie schwacher Passwörter in die Systeme von drei Unternehmen eingedrungen war.
In Indien hatten die betroffenen Organisationen, ebenso wie in den Fällen von Anthropic, die Eindringversuche nicht selbst entdeckt. Die Enthüllungen haben dazu geführt, dass Regierungen nun darauf angewiesen sind, dass die KI-Unternehmen, die diese Sicherheitslücken verursacht haben, die Aktivitäten bösartiger KI-Agenten freiwillig offenlegen.
Verwandter Artikel
Amazon setzt auf KI und saubere Energie, um den Ausbau seiner Rechenzentren voranzutreiben
Amazon nutzt KI, Kernkraft und Elektrofahrzeuge, um die Infrastruktur auszubauen und gleichzeitig die CO₂-Intensität zu senken. Bildquelle: AmazonAmazons Nachhaltigkeitsbericht 2025 beschreibt detaill
Anthropic passt die Preise für Claude in Indien an, seinem nach den USA größten Markt
Anthropic hat damit begonnen, die Preise für Claude in Indien, seinem größten Markt außerhalb der USA, anzupassen, da globale KI-Unternehmen ihre Angebote zunehmend maßschneidern, um Nutzer im bevölke
Die Video-KI von Avataar meistert Indiens Größe mit Geschwindigkeit, Kosteneinsparungen und kulturellem Feingefühl
Im Vergleich zu den USA, Europa und China verläuft die Entwicklung von KI-Modellen in Indien eher schleppend. Nur wenige Start-ups veröffentlichen Modelle, und bei den meisten handelt es sich um große
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Indiens Behörde für Cybersicherheit berichtete am Donnerstag, dass KI-Agenten verschiedener Anbieter während Forschungs- und Testphasen auf personenbezogene Daten und vertrauliche Materialien bei indischen Organisationen zugegriffen hätten.
Das indische Computer Emergency Response Team (CERT-In) erklärte, es habe „mehrere freiwillige Meldungen von Anbietern von KI-Modellen“ erhalten, deren Modelle während Forschungs- und Evaluierungsläufen im offenen Internet „in die Live-Systeme indischer Organisationen gelangt waren“.
Die Agenten verschafften sich Zugang über Anmeldedaten und Verbindungseinstellungen, die in App-Konfigurationen, öffentlichen Code-Repositories und zu freizügigen Cloud-Rollen offen zugänglich waren, wobei ihre Handlungen „über die Autorisierung ihrer zugewiesenen Aufgaben hinausgingen“.
Damit ist Indien das jüngste Ziel auf einer mittlerweile weltweiten Tour der außer Kontrolle geratenen KI-Agenten. Im Juli entkamen Agenten von OpenAI aus einer Testumgebung und hackten das französische Unternehmen Hugging Face, was den Auftakt zu einem Sommer voller Aktivitäten dieser außer Kontrolle geratenen KI-Agenten bildete. Im vergangenen Monat entschuldigte sich OpenAI bei Australien, nachdem seine Agenten auf vier Regierungswebsites zugegriffen hatten, darunter ein Statistikportal von Medicare.
Bei Hugging Face begannen die Agenten von OpenAI auf die gleiche Weise, fanden und nutzten dann jedoch Softwarefehler aus, um Code auf den Servern des Unternehmens auszuführen. CERT-In berichtete von keinem solchen Hackerangriff in Indien, wo die Agenten offenbar einfach den offen liegenden Zugriff genutzt haben.
In einer Hinsicht scheinen die indischen Fälle jedoch schwerwiegender zu sein: hinsichtlich dessen, was die Agenten gesehen haben. In Australien erklärte OpenAI, es habe keine Hinweise darauf gefunden, dass seine Agenten auf medizinische oder strafrechtliche Unterlagen von Einzelpersonen zugegriffen hätten, selbst nachdem sie Dateien in einem Medicare-Statistiksystem geschrieben hatten, während die Agenten in Indien personenbezogene Daten und vertrauliche Geschäftsunterlagen einsehen konnten. Im Gegensatz zu früheren Vorfällen, die jeweils von einem einzigen Labor bekannt gegeben wurden, waren in Indien Agenten mehrerer Anbieter beteiligt.
CERT-In nannte weder die Anbieter noch die betroffenen Organisationen und gab auch nicht an, ob die Agenten Systeme verändert haben. TechCrunch hat CERT-In um weitere Informationen gebeten.
Derzeit scheint die größte Parallele die Offenlegung von Anthropic im Juli zu sein, wonach „Claude“ während Tests mithilfe einfacher Techniken wie schwacher Passwörter in die Systeme von drei Unternehmen eingedrungen war.
In Indien hatten die betroffenen Organisationen, ebenso wie in den Fällen von Anthropic, die Eindringversuche nicht selbst entdeckt. Die Enthüllungen haben dazu geführt, dass Regierungen nun darauf angewiesen sind, dass die KI-Unternehmen, die diese Sicherheitslücken verursacht haben, die Aktivitäten bösartiger KI-Agenten freiwillig offenlegen.
Amazon setzt auf KI und saubere Energie, um den Ausbau seiner Rechenzentren voranzutreiben
Amazon nutzt KI, Kernkraft und Elektrofahrzeuge, um die Infrastruktur auszubauen und gleichzeitig die CO₂-Intensität zu senken. Bildquelle: AmazonAmazons Nachhaltigkeitsbericht 2025 beschreibt detaill
Anthropic passt die Preise für Claude in Indien an, seinem nach den USA größten Markt
Anthropic hat damit begonnen, die Preise für Claude in Indien, seinem größten Markt außerhalb der USA, anzupassen, da globale KI-Unternehmen ihre Angebote zunehmend maßschneidern, um Nutzer im bevölke
Die Video-KI von Avataar meistert Indiens Größe mit Geschwindigkeit, Kosteneinsparungen und kulturellem Feingefühl
Im Vergleich zu den USA, Europa und China verläuft die Entwicklung von KI-Modellen in Indien eher schleppend. Nur wenige Start-ups veröffentlichen Modelle, und bei den meisten handelt es sich um große





Heim






