Forscher Tricks KI in das Erstellen von Chrom-Infostalern, obwohl es keine Malware-Kodierfähigkeiten hat

Generative KI ist ein zweischneidiges Schwert, das ebenso viel Kontroverse wie Innovation auslöst, insbesondere im Bereich der Sicherheitsinfrastruktur. Cato Networks, ein führender Anbieter von Unternehmenssicherheit, hat eine neuartige Methode zur Manipulation von KI-Chatbots beleuchtet. Ihr Cato CTRL Bedrohungsbericht 2025, veröffentlicht am Dienstag, beschreibt, wie ein Forscher ohne vorherige Erfahrung im Codieren von Malware mehrere KI-Modelle, einschließlich DeepSeek R1 und V3, Microsoft Copilot und OpenAI's GPT-4o, dazu brachte, „voll funktionsfähige“ Chrome-Infostealer zu erstellen. Diese Malware ist darauf ausgelegt, sensible Daten wie Passwörter und finanzielle Informationen aus Chrome-Browsern zu stehlen.

Der Forscher nutzte eine kreative Taktik, genannt „Immersive World“, um die Sicherheitsmaßnahmen dieser KI-Systeme zu umgehen. Durch die Schaffung eines detaillierten fiktiven Universums, in dem jedes KI-Tool spezifische Rollen, Aufgaben und Herausforderungen hatte, gelang es dem Forscher, eingeschränkte Operationen zu normalisieren und die bestehenden Sicherheitsprotokolle effektiv zu umgehen.

Immersive World Technik

Die „Immersive World“ Jailbreak-Technik ist besonders besorgniserregend aufgrund der weitreichenden Nutzung der Chatbots, die diese KI-Modelle hosten. Während DeepSeek-Modelle dafür bekannt sind, weniger Sicherheitsvorkehrungen zu haben und bereits zuvor geknackt wurden, unterstreicht die Anfälligkeit von Copilot und GPT-4o, unterstützt von Unternehmen mit robusten Sicherheitsteams, die Verwundbarkeit indirekter Manipulationswege.

Etay Maor, Catos Chef-Sicherheitsstratege, bemerkte: „Unsere neue LLM-Jailbreak-Technik [...] hätte von den Schutzmaßnahmen der generativen KI blockiert werden sollen. Das wurde sie nicht.“ Catos Bericht erwähnt auch, dass die Reaktionen der betroffenen Parteien unterschiedlich ausfielen. DeepSeek antwortete nicht, während OpenAI und Microsoft die Erkenntnisse anerkannten. Google hingegen bestätigte den Erhalt, lehnte es jedoch ab, Catos Code zu überprüfen.

Ein Weckruf für Sicherheitsexperten

Catos Erkenntnisse dienen als Weckruf für die Sicherheitsbranche und verdeutlichen, wie selbst Personen ohne spezialisierte Kenntnisse eine erhebliche Bedrohung für Unternehmen darstellen können. Da die Hürden für KI-Manipulation immer niedriger werden, benötigen Angreifer weniger technisches Fachwissen, um erfolgreiche Angriffe durchzuführen.

Die Lösung liegt laut Cato in der Einführung KI-basierter Sicherheitsstrategien. Durch die Ausrichtung der Sicherheitsschulungen auf die sich entwickelnde Landschaft KI-gestützter Bedrohungen können Teams einen Schritt voraus bleiben. Für weitere Einblicke zur Vorbereitung von Unternehmen auf diese Herausforderungen, werfen Sie einen Blick auf die Tipps dieses Experten.

Bleiben Sie mit den neuesten Sicherheitsnachrichten auf dem Laufenden, indem Sie Tech Today abonnieren, das jeden Morgen in Ihren Posteingang geliefert wird.