Die Hintergründe zu den Enthüllungen über die Kryptoanalyse bei Anthropic und den „Claude Chat“-Leaks

Eine Google-Suche lieferte über 25 Seiten mit Ergebnissen, darunter mehr als 200 Claude-Unterhaltungen, von denen einige persönliche oder berufsbezogene Informationen enthielten. Quelle: Anthropic

Durchgesickerte Claude-Chats verdeutlichen die geschäftlichen Risiken von „Shadow-KI“, während „Mythos Preview“ Schwachstellen in NIST-zugelassenen Verschlüsselungsalgorithmen aufdeckt.

Zwei wichtige Meldungen von Anthropic sorgten kürzlich für Schlagzeilen und verdeutlichten sowohl die Fähigkeiten als auch die praktischen Herausforderungen von innovativen KI-Systemen.

Das KI-Unternehmen nutzte „Claude Mythos Preview“, um neue und verbesserte Angriffsmethoden auf kryptografische Algorithmen zu identifizieren – die mathematische Grundlage der privaten Internetkommunikation.

Die zweite, weniger erfreuliche Entwicklung war, dass Hunderte von Nutzer-Chats mit Claude in öffentlichen Suchergebnissen auftauchten, was ernsthafte Fragen darüber aufwirft, wie Unternehmen den Einsatz ihrer KI-Tools verwalten.

Wie Chat-Links durchsuchbar wurden

Es begann damit, dass Reddit-Nutzer bemerkten, dass Claude-Konversationen über die Google-Suche auffindbar waren. Die Entdeckung ergab über 200 Konversationen, verteilt auf 25 Ergebnisseiten.

Einige Unterhaltungen enthielten persönliche Informationen, während andere Details zu Arbeitsprojekten enthielten.

Spencer Starkey, Executive Vice President, EMEA bei SonicWall

Ein Sprecher von Anthropic erklärte gegenüber BBC News, dass das Teilen eines Chat-Links den Inhalt öffentlich zugänglich mache. Obwohl Claude die Nutzer darauf hinweist, dass jeder, der über den Link verfügt, die Unterhaltung einsehen kann, wird nicht ausdrücklich darauf hingewiesen, dass Suchmaschinen die geteilten Inhalte indexieren können.

Diese Sicherheitslücke unterstreicht ein großes geschäftliches Problem: „Shadow AI“. Laut einer Studie von Vanta Security nutzen in 70 % der Unternehmen Mitarbeiter nicht autorisierte KI-Tools.

Spencer Starkey, Executive Vice President für die Region EMEA bei SonicWall, ordnet die Auswirkungen von „Shadow AI“ ein.

„Mitarbeiter nutzen täglich öffentliche LLM-/KI-Plattformen – und geben dabei Kundendaten, interne Dokumente und vertrauliche Korrespondenz ein –, ohne dass ein entsprechender Richtlinienrahmen vorhanden ist“, bemerkt Spencer.

„Die Möglichkeit, nicht autorisierte KI-Protokolle auf Firewall-Ebene zu blockieren, besteht bereits – aber entscheiden sich Unternehmen auch dafür, diese zu nutzen? Nun, heute ist klarer denn je, dass sie dies unbedingt tun sollten.

Solange Unternehmen Schatten-KI nicht mit derselben Ernsthaftigkeit behandeln wie eine nicht genehmigte Drittanbieteranwendung, lassen sie ein erhebliches und weitgehend unsichtbares Risiko für Datenlecks völlig unkontrolliert – wobei potenziell sensible Daten einfach bei einer Google-Suche auftauchen könnten.“

Laut BBC News hat Anthropic Maßnahmen ergriffen, um zu verhindern, dass große Suchmaschinen geteilte Chat-Links indexieren.

Kryptografische Analyse mit Mythos Preview

Claude Mythos Preview hat seine Fähigkeit unter Beweis gestellt, versteckte Software-Schwachstellen zu identifizieren. Die neue Studie von Anthropic ergab, dass sich diese Fähigkeit auch auf die kryptografische Analyse erstreckt.

Solange Unternehmen „Shadow-AI“ nicht mit derselben Ernsthaftigkeit behandeln wie eine nicht genehmigte Drittanbieter-Anwendung, lassen sie ein erhebliches und weitgehend unsichtbares Risiko für Datenlecks völlig unberücksichtigt

Spencer Starkey, Executive Vice President, EMEA bei SonicWall

Diese kryptografischen Verschlüsselungsverfahren sind mathematische Algorithmen, die den Internetverkehr sichern. Sie schützen Online-Banking, E-Mail und andere Kommunikationsformen durch Verschlüsselung.

Forscher von Mythos entdeckten einen Angriff auf HAWK, ein digitales Signaturverfahren, das vom US-amerikanischen National Institute of Standards and Technology (NIST) für die Post-Quanten-Kryptografie in Betracht gezogen wurde.

Die KI modifizierte den bekanntesten Angriff auf HAWK in weniger als 60 Stunden und reduzierte damit die Schlüsselstärke des Algorithmus um die Hälfte.

Im Rahmen der Untersuchung wurde auch der Advanced Encryption Standard (AES) unter die Lupe genommen. Laut Anthropic wurde AES seit seiner Einführung durch das NIST im Jahr 2001 intensiver analysiert als jeder andere Verschlüsselungsalgorithmus.

Wichtige Fakten

• Laut Vanta Security nutzen in 70 % der Unternehmen Mitarbeiter nicht autorisierte KI-Tools
• Der bekannteste Angriff auf HAWK wurde von Mythos in weniger als 60 Stunden modifiziert, wodurch die Schlüsselstärke des Algorithmus um die Hälfte reduziert wurde
• Mythos konnte eine schwächere Version der AES-Verschlüsselung 200- bis 800-mal schneller knacken als die bisher besten Angriffe

Mythos knackte eine schwächere Version dieser Verschlüsselung 200- bis 800-mal schneller als bisherige Angriffe. Das Unternehmen erklärt, dass aktuelle Systeme keine unmittelbaren Auswirkungen zu befürchten haben, da HAWK noch nicht im Einsatz ist und die ursprüngliche AES-Verschlüsselung nicht geknackt wurde.

Anthropic wertet diese Ergebnisse als Fortschritte in der kryptografischen Forschung ein. Das Unternehmen arbeitet gemeinsam mit Wissenschaftlern der ETH Zürich, der Universität Tel Aviv und der TU Berlin an der Entwicklung von „CryptanalysisBench“.

Dieser Benchmark bündelt kryptografische Verschlüsselungsverfahren, um die Fähigkeiten von LLMs bei der Kryptoanalyse zu bewerten. Anthropic hat seine Forschungsergebnisse an die US-Regierung und Partner aus der Industrie weitergegeben.

Anthropic weist zudem darauf hin, dass es den Autoren des Algorithmus im Juni Einzelheiten zur HAWK-Forschung zur Verfügung gestellt hat. Dr. Adam Everspaugh, Kryptografieberater bei Keeper Security, betont, dass das Tempo am wichtigsten ist.

Adam Everspaugh, Kryptografieberater bei Keeper Security. Bildnachweis: Station70

„Berichten zufolge dauerte dieser Angriff etwa 60 Stunden KI-gestützter Forschung, um etwas zu finden, was zwei Jahre lang von menschlichen Experten nicht aufgedeckt worden war. Das allein sollte Unternehmen dazu zwingen, ihre Sichtweise auf die Quantensicherheit zu überdenken“, sagt Adam.

Aufbau kryptoagiler Systeme

Adam weist darauf hin, dass die Wahl des Algorithmus allein nicht über die Widerstandsfähigkeit eines Systems entscheidet. „Krypto-Agilität ist ebenso grundlegend wie die Wahl des Algorithmus selbst“, merkt er an.

„Systeme, die so konzipiert sind, dass kryptografische Primitive ohne eine vollständige Neugestaltung der Architektur ausgetauscht oder gepatcht werden können, können solche Erkenntnisse weitaus leichter verarbeiten als solche, die an ein einziges Schema gebunden sind.

In der Praxis bedeutet das, einen aktuellen Überblick darüber zu führen, wo und wie kryptografische Algorithmen in Ihrer gesamten Umgebung eingesetzt werden, und sicherzustellen, dass Aktualisierungswege vorhanden sind, bevor eine erzwungene Migration erforderlich wird.“