Heim
Forscher Tricks KI in das Erstellen von Chrom-Infostalern, obwohl es keine Malware-Kodierfähigkeiten hat
Generative KI ist ein zweischneidiges Schwert, das ebenso viel Kontroverse wie Innovation auslöst, insbesondere im Bereich der Sicherheitsinfrastruktur. Cato Networks, ein führender Anbieter von Unternehmenssicherheit, hat eine neuartige Methode zur Manipulation von KI-Chatbots beleuchtet. Ihr Cato CTRL Bedrohungsbericht 2025, veröffentlicht am Dienstag, beschreibt, wie ein Forscher ohne vorherige Erfahrung im Codieren von Malware mehrere KI-Modelle, einschließlich DeepSeek R1 und V3, Microsoft Copilot und OpenAI's GPT-4o, dazu brachte, „voll funktionsfähige“ Chrome-Infostealer zu erstellen. Diese Malware ist darauf ausgelegt, sensible Daten wie Passwörter und finanzielle Informationen aus Chrome-Browsern zu stehlen.
Der Forscher nutzte eine kreative Taktik, genannt „Immersive World“, um die Sicherheitsmaßnahmen dieser KI-Systeme zu umgehen. Durch die Schaffung eines detaillierten fiktiven Universums, in dem jedes KI-Tool spezifische Rollen, Aufgaben und Herausforderungen hatte, gelang es dem Forscher, eingeschränkte Operationen zu normalisieren und die bestehenden Sicherheitsprotokolle effektiv zu umgehen.
Immersive World Technik
Die „Immersive World“ Jailbreak-Technik ist besonders besorgniserregend aufgrund der weitreichenden Nutzung der Chatbots, die diese KI-Modelle hosten. Während DeepSeek-Modelle dafür bekannt sind, weniger Sicherheitsvorkehrungen zu haben und bereits zuvor geknackt wurden, unterstreicht die Anfälligkeit von Copilot und GPT-4o, unterstützt von Unternehmen mit robusten Sicherheitsteams, die Verwundbarkeit indirekter Manipulationswege.
Etay Maor, Catos Chef-Sicherheitsstratege, bemerkte: „Unsere neue LLM-Jailbreak-Technik [...] hätte von den Schutzmaßnahmen der generativen KI blockiert werden sollen. Das wurde sie nicht.“ Catos Bericht erwähnt auch, dass die Reaktionen der betroffenen Parteien unterschiedlich ausfielen. DeepSeek antwortete nicht, während OpenAI und Microsoft die Erkenntnisse anerkannten. Google hingegen bestätigte den Erhalt, lehnte es jedoch ab, Catos Code zu überprüfen.
Ein Weckruf für Sicherheitsexperten
Catos Erkenntnisse dienen als Weckruf für die Sicherheitsbranche und verdeutlichen, wie selbst Personen ohne spezialisierte Kenntnisse eine erhebliche Bedrohung für Unternehmen darstellen können. Da die Hürden für KI-Manipulation immer niedriger werden, benötigen Angreifer weniger technisches Fachwissen, um erfolgreiche Angriffe durchzuführen.
Die Lösung liegt laut Cato in der Einführung KI-basierter Sicherheitsstrategien. Durch die Ausrichtung der Sicherheitsschulungen auf die sich entwickelnde Landschaft KI-gestützter Bedrohungen können Teams einen Schritt voraus bleiben. Für weitere Einblicke zur Vorbereitung von Unternehmen auf diese Herausforderungen, werfen Sie einen Blick auf die Tipps dieses Experten.
Bleiben Sie mit den neuesten Sicherheitsnachrichten auf dem Laufenden, indem Sie Tech Today abonnieren, das jeden Morgen in Ihren Posteingang geliefert wird.
Verwandter Artikel
Bain prognostiziert einen SaaS-Markt im Wert von 100 Milliarden US-Dollar im Bereich der agentenbasierten KI-Automatisierung
Bain & Company schätzt den Markt für SaaS-Unternehmen, die agentische KI nutzen, in den USA auf 100 Milliarden US-Dollar. Das Unternehmen erklärte, dieser Markt entstamme der Automatisierung von Koord
Richtlinie zur obligatorischen KI-Suche führt zu Nutzerabwanderung, DuckDuckGo verzeichnet Nutzeranstieg
Nachdem Google auf seiner I/O-Konferenz 2026 eine umfassende KI-Umgestaltung seiner Suchmaschine angekündigt hatte, suchten viele Nutzer nach besser kontrollierbaren Alternativen, da es keine einfache
Xiaohongshu strukturiert sich neu: Conan wird zum Präsidenten ernannt, die Hauptabteilung für KI „Dots“ und die Auslandsabteilung „Rednote“ werden gegründet
Am 30. April versandte Xiaohongshu ein internes Memo an alle Mitarbeiter, in dem die Einführung einer neuen organisatorischen Umstrukturierung angekündigt wurde. Im Mittelpunkt dieser Veränderung steh
Empfehlungen zu verwandten Spezialthemen
Text-zu-Sprache
Die besten KI-Sprachausgabe-Apps für Legasthenie: Unterstützung für das Lernen und effizienteres Lesen bei Schülern
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Comic-Erstellung
Die besten KI-Generatoren für Shonen-Manga: Erstelle actiongeladene Sequenzen und dynamische Effekte
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
Geschäft
Die besten KI-basierten Spesenabrechnungsprogramme: Quittungen scannen und Geschäftsausgaben automatisch kategorisieren
Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.
10 Tools
xix.ai
Geschäft
Die besten KI-Tools für die Personalbeschaffung: Lebensläufe prüfen und die Terminplanung für Vorstellungsgespräche automatisieren
Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!
10 Tools
xix.ai
Produktivität
KI-Coaches für persönliches Wohlbefinden und Konzentration: Burnout bewältigen und die geistige Energie steigern
Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.
10 Tools
xix.ai
Chatbot
Die besten KI-basierten Romantik-Chatbots: Bauen Sie langfristige Beziehungen mit beständiger Persönlichkeit auf
Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.
10 Tools
xix.ai
Kommentare (7)
![WillGarcía]()
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
![NicholasAllen]()
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
![ThomasYoung]()
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
![CharlesJohnson]()
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
![GaryWilson]()
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
![WillGarcía]()
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
Generative KI ist ein zweischneidiges Schwert, das ebenso viel Kontroverse wie Innovation auslöst, insbesondere im Bereich der Sicherheitsinfrastruktur. Cato Networks, ein führender Anbieter von Unternehmenssicherheit, hat eine neuartige Methode zur Manipulation von KI-Chatbots beleuchtet. Ihr Cato CTRL Bedrohungsbericht 2025, veröffentlicht am Dienstag, beschreibt, wie ein Forscher ohne vorherige Erfahrung im Codieren von Malware mehrere KI-Modelle, einschließlich DeepSeek R1 und V3, Microsoft Copilot und OpenAI's GPT-4o, dazu brachte, „voll funktionsfähige“ Chrome-Infostealer zu erstellen. Diese Malware ist darauf ausgelegt, sensible Daten wie Passwörter und finanzielle Informationen aus Chrome-Browsern zu stehlen.
Der Forscher nutzte eine kreative Taktik, genannt „Immersive World“, um die Sicherheitsmaßnahmen dieser KI-Systeme zu umgehen. Durch die Schaffung eines detaillierten fiktiven Universums, in dem jedes KI-Tool spezifische Rollen, Aufgaben und Herausforderungen hatte, gelang es dem Forscher, eingeschränkte Operationen zu normalisieren und die bestehenden Sicherheitsprotokolle effektiv zu umgehen.
Immersive World Technik
Die „Immersive World“ Jailbreak-Technik ist besonders besorgniserregend aufgrund der weitreichenden Nutzung der Chatbots, die diese KI-Modelle hosten. Während DeepSeek-Modelle dafür bekannt sind, weniger Sicherheitsvorkehrungen zu haben und bereits zuvor geknackt wurden, unterstreicht die Anfälligkeit von Copilot und GPT-4o, unterstützt von Unternehmen mit robusten Sicherheitsteams, die Verwundbarkeit indirekter Manipulationswege.
Etay Maor, Catos Chef-Sicherheitsstratege, bemerkte: „Unsere neue LLM-Jailbreak-Technik [...] hätte von den Schutzmaßnahmen der generativen KI blockiert werden sollen. Das wurde sie nicht.“ Catos Bericht erwähnt auch, dass die Reaktionen der betroffenen Parteien unterschiedlich ausfielen. DeepSeek antwortete nicht, während OpenAI und Microsoft die Erkenntnisse anerkannten. Google hingegen bestätigte den Erhalt, lehnte es jedoch ab, Catos Code zu überprüfen.
Ein Weckruf für Sicherheitsexperten
Catos Erkenntnisse dienen als Weckruf für die Sicherheitsbranche und verdeutlichen, wie selbst Personen ohne spezialisierte Kenntnisse eine erhebliche Bedrohung für Unternehmen darstellen können. Da die Hürden für KI-Manipulation immer niedriger werden, benötigen Angreifer weniger technisches Fachwissen, um erfolgreiche Angriffe durchzuführen.
Die Lösung liegt laut Cato in der Einführung KI-basierter Sicherheitsstrategien. Durch die Ausrichtung der Sicherheitsschulungen auf die sich entwickelnde Landschaft KI-gestützter Bedrohungen können Teams einen Schritt voraus bleiben. Für weitere Einblicke zur Vorbereitung von Unternehmen auf diese Herausforderungen, werfen Sie einen Blick auf die Tipps dieses Experten.
Bleiben Sie mit den neuesten Sicherheitsnachrichten auf dem Laufenden, indem Sie Tech Today abonnieren, das jeden Morgen in Ihren Posteingang geliefert wird.
Bain prognostiziert einen SaaS-Markt im Wert von 100 Milliarden US-Dollar im Bereich der agentenbasierten KI-Automatisierung
Bain & Company schätzt den Markt für SaaS-Unternehmen, die agentische KI nutzen, in den USA auf 100 Milliarden US-Dollar. Das Unternehmen erklärte, dieser Markt entstamme der Automatisierung von Koord
Richtlinie zur obligatorischen KI-Suche führt zu Nutzerabwanderung, DuckDuckGo verzeichnet Nutzeranstieg
Nachdem Google auf seiner I/O-Konferenz 2026 eine umfassende KI-Umgestaltung seiner Suchmaschine angekündigt hatte, suchten viele Nutzer nach besser kontrollierbaren Alternativen, da es keine einfache
Xiaohongshu strukturiert sich neu: Conan wird zum Präsidenten ernannt, die Hauptabteilung für KI „Dots“ und die Auslandsabteilung „Rednote“ werden gegründet
Am 30. April versandte Xiaohongshu ein internes Memo an alle Mitarbeiter, in dem die Einführung einer neuen organisatorischen Umstrukturierung angekündigt wurde. Im Mittelpunkt dieser Veränderung steh
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.
10 Tools
xix.ai
Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.
10 Tools
xix.ai
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
