KI -Agenten nutzen vertrauliche Daten aus: Wie Hacker sie verwenden und Schutzmaßnahmen

Genau wie wir alle nutzen auch Cyberkriminelle künstliche Intelligenz, um ihre Operationen zu optimieren, ihre Angriffe schneller, einfacher und raffinierter zu gestalten. Durch die Integration von KI in ihren üblichen Werkzeugkasten, wie automatisierte Bots, Kontoübernahmen und Social Engineering, heben diese cleveren Betrüger ihr Spiel auf ein neues Niveau. Ein aktueller Bericht von Gartner beleuchtet, wie sich dieser Trend entwickelt, und warnt, dass er in naher Zukunft an Intensität zunehmen könnte.

Gartner VP Analyst Jeremy D'Hoinne weist darauf hin, dass schwache Authentifizierung die Achillesferse ist, die Kontoübernahmen antreibt. Cyberangreifer nutzen diese Schwäche durch verschiedene Methoden aus, um Kontopasswörter zu erbeuten, von Datenlecks bis hin zu Social Engineering.

Die Rolle von KI bei Kontoübernahmen

Sobald ein Passwort kompromittiert ist, kommt KI ins Spiel. Cyberkriminelle setzen automatisierte KI-Bots ein, um zahlreiche Dienste mit Login-Versuchen zu bombardieren, in der Hoffnung, herauszufinden, ob diese Zugangsdaten auf mehreren Plattformen wiederverwendet wurden. Das ultimative Ziel? Eine lukrative Seite zu finden, auf der sie eine vollständige Kontoübernahme orchestrieren können. Wenn der Hacker nicht selbst daran interessiert ist, den Angriff durchzuführen, kann er die gestohlenen Informationen problemlos im Dark Web weiterverkaufen, wo eifrige Käufer warten.

"Kontoübernahmen (ATO) bleiben ein beständiger Angriffsvektor, da schwache Authentifizierungsdaten, wie Passwörter, auf vielfältige Weise gesammelt werden, einschließlich Datenlecks, Phishing, Social Engineering und Malware," erklärt D'Hoinne im Gartner-Bericht. "Angreifer nutzen dann Bots, um eine Flut von Login-Versuchen über verschiedene Dienste hinweg zu automatisieren, in der Hoffnung, dass die Zugangsdaten auf mehreren Plattformen wiederverwendet wurden."

Mit KI in ihrem Werkzeugkasten können Angreifer den Prozess der Kontoübernahme effizienter automatisieren. Gartner prognostiziert, dass innerhalb der nächsten zwei Jahre die Zeit, die für eine Kontoübernahme benötigt wird, um 50 % sinken wird.

KI und Deepfake-Social-Engineering

Die Auswirkungen von KI gehen über Kontoübernahmen hinaus; sie revolutioniert auch Deepfake-Kampagnen. Cyberkriminelle kombinieren Social Engineering mit Deepfake-Audio und -Video, um ihre Ziele zu täuschen. Stellen Sie sich vor, Sie erhalten einen Anruf von jemandem, der exakt wie Ihr Chef oder ein vertrauenswürdiger Kollege klingt und Sie auffordert, Geld zu überweisen oder sensible Informationen preiszugeben. Es passiert, und es kostet Unternehmen enorme Summen.

Obwohl nur eine Handvoll prominenter Fälle berichtet wurde, waren die finanziellen Schäden erheblich. Das Erkennen von Deepfake-Stimmen während persönlicher Anrufe bleibt schwierig. Gartner prognostiziert, dass bis 2028 40 % der Social-Engineering-Angriffe sowohl Führungskräfte als auch die breitere Belegschaft ins Visier nehmen werden.

"Organisationen müssen den Markt im Auge behalten und Verfahren sowie Arbeitsabläufe anpassen, um Angriffe, die gefälschte Realitätstechniken nutzen, besser abzuwehren," rät Manuel Acosta, Senior Director Analyst bei Gartner. "Die Schulung von Mitarbeitern über die sich entwickelnde Bedrohungslandschaft durch spezifische Trainings zu Social Engineering mit Deepfakes ist ein entscheidender Schritt."

Abwehr von KI-gestützten Angriffen

Wie können also Einzelpersonen und Organisationen diese KI-gesteuerten Angriffe abwehren?

"Um neuen Herausforderungen durch KI-gestützte Angriffe entgegenzuwirken, müssen Organisationen KI-gestützte Tools nutzen, die eine granulare Echtzeit-Umgebungsübersicht und Warnungen bieten, um Sicherheitsteams zu unterstützen," schlägt Nicole Carignan, Senior VP für Sicherheits- und KI-Strategie bei Darktrace, vor.

Carignan empfiehlt außerdem, neuen Bedrohungen zuvorzukommen, indem maschinengesteuerte Reaktionen integriert werden, entweder autonom oder mit menschlicher Aufsicht, um die Reaktionszeiten von Sicherheitsteams zu beschleunigen. "Durch diesen Ansatz kann die Einführung von KI-Technologien – wie Lösungen mit anomaliebasierten Erkennungsfähigkeiten, die noch nie dagewesene Bedrohungen erkennen und darauf reagieren können – entscheidend sein, um Organisationen sicher zu halten."

Multifaktor-Authentifizierung und biometrische Verifizierung, wie Gesichts- oder Fingerabdruckscans, sind ebenfalls entscheidend, um sich gegen Kontoübernahmen zu schützen. "Cyberkriminelle verlassen sich nicht nur auf gestohlene Zugangsdaten, sondern auch auf soziale Manipulation, um Identitätsschutzmechanismen zu durchbrechen," sagt James Scobey, Chief Information Security Officer bei Keeper Security. "Deepfakes sind in diesem Bereich besonders besorgniserregend, da KI-Modelle diese Angriffsmethoden schneller, kostengünstiger und überzeugender machen. Da Angreifer immer raffinierter werden, wird die Notwendigkeit stärkerer, dynamischerer Identitätsverifizierungsmethoden – wie Multifaktor-Authentifizierung (MFA) und Biometrie – entscheidend sein, um diesen zunehmend nuancierten Bedrohungen entgegenzuwirken. MFA ist unerlässlich, um Kontoübernahmen zu verhindern."

Gartners Tipps zum Umgang mit Social Engineering und Deepfakes

• Mitarbeiter schulen. Bilden Sie sie in Bezug auf Social Engineering und Deepfakes aus, aber verlassen Sie sich nicht allein auf ihre Fähigkeit, diese Bedrohungen zu erkennen.
• Weitere Verifizierungsmaßnahmen einrichten. Verifizieren Sie beispielsweise alle Versuche, vertrauliche Informationen telefonisch anzufordern, über eine andere Plattform.
• Eine Rückrufpolitik einführen. Stellen Sie eine festgelegte Nummer bereit, die Mitarbeiter anrufen können, um sensible oder vertrauliche Anfragen zu bestätigen.
• Über eine Rückrufpolitik hinausgehen. Stellen Sie sicher, dass ein einzelner Anruf oder eine Anfrage keine risikoreiche Aktion ohne zusätzliche Verifizierung durch Führungskräfte auslösen kann.
• Über Echtzeit-Deepfake-Erkennung informiert bleiben. Halten Sie sich über neue Technologien auf dem Laufenden, die Deepfakes in Audio- und Videoanrufen erkennen können, und ergänzen Sie diese mit anderen Identifikationsmethoden wie eindeutigen IDs.

Möchten Sie mehr Geschichten über KI? Melden Sie sich für Innovation, unseren wöchentlichen Newsletter, an.