Die Sicherheitswarnungen von Anthropic schlagen fehl, da die Regierung die leistungsstärkste KI des Unternehmens stilllegt

Am Freitag wies die US-Regierung Anthropic unter Berufung auf Risiken für die nationale Sicherheit an, den Zugriff auf zwei seiner fortschrittlichsten KI-Systeme, Claude Fable 5 und Claude Mythos 5, unverzüglich zu sperren. Anthropic bestätigte die Einhaltung der Anordnung über X, erklärte jedoch, dass es die Entscheidung der Regierung für falsch halte.

Laut Anthropic ging die Anordnung am Freitag um 17:21 Uhr ET ein und verlangte vom Unternehmen, beide Modelle für alle Nutzer weltweit zu sperren – was über die ursprünglich von der Exportkontrollverordnung betroffenen ausländischen Staatsangehörigen hinausging. Andere Modelle von Anthropic sind davon nicht betroffen.

Warum ist das von Bedeutung? Mythos ist die leistungsstärkste KI von Anthropic, die Anfang April vorgestellt wurde und aufgrund ihrer außergewöhnlichen Fähigkeit, Sicherheitslücken in Software zu identifizieren, strengen Beschränkungen unterliegt. Anthropic berichtet, dass Mythos in jedem getesteten großen Betriebssystem und Webbrowser Schwachstellen gefunden hat. Anstelle einer breiten Veröffentlichung startete das Unternehmen daher das „Project Glasswing“ – ein kontrolliertes Programm, das den Zugang zu etwa 50 geprüften Organisationen, darunter Amazon, Apple, Google, Microsoft und CrowdStrike, für defensive Cybersicherheitszwecke gewährt.

„Fable 5“, das erst vor drei Tagen eingeführt wurde, reagiert auf den kommerziellen Druck, indem es eine Version von Mythos mit Sicherheitsvorkehrungen anbietet, die Reaktionen in Hochrisikobereichen wie Cybersicherheit und Biologie blockieren. Anthropic argumentiert, dass dies den allgemeinen Einsatz sicher macht, und Benchmark-Tests von Vals AI, das die Leistung von KI-Modellen verfolgt, bestätigen, dass es sich derzeit um das leistungsfähigste öffentlich zugängliche KI-Modell handelt.

Bildnachweis:Vals AI /

Während die Regierung dies als Exportkontrollmaßnahme darstellt, die den Zugang aus dem Ausland einschränkt, argumentiert Anthropic in einem ausführlichen Blogbeitrag, dass das eigentliche Problem ein angeblicher „Jailbreak“ von Fable 5 sei. Das Unternehmen erklärt, die Regierung habe lediglich mündliche Beweise für einen „potenziellen, begrenzten und nicht universellen Jailbreak“ vorgelegt, bei dem das Modell dazu veranlasst werde, eine bestimmte Codebasis auf Softwarefehler zu analysieren. Anthropic weist darauf hin, dass diese Fähigkeit in anderen öffentlich zugänglichen Modellen, wie beispielsweise OpenAI’s GPT-5.5, bereits weit verbreitet ist und von Cybersicherheitsexperten routinemäßig zu Verteidigungszwecken genutzt wird.

Das Kernargument von Anthropic lautet, dass seine stärksten Sicherheitsvorkehrungen auf unabhängigen Klassifikationssystemen beruhen, die vom Modell selbst getrennt sind. Das bedeutet, dass selbst wenn ein Nutzer eine Ablehnung umgeht, die zugrunde liegenden Schutzmaßnahmen gegen gefährliche Ausgaben weiterhin aktiv bleiben.

Trotz dieser Sicherheitsvorkehrungen setzte die Regierung ihre Maßnahme fort, und Anthropic hat seine Frustration offen zum Ausdruck gebracht. „Wir sind nicht der Meinung, dass die Feststellung eines begrenzten potenziellen ‚Jailbreaks‘ Anlass sein sollte, ein kommerzielles Modell zurückzurufen, das bei Hunderten von Millionen Menschen im Einsatz ist“, schrieb das Unternehmen. „Würde dieser Maßstab branchenweit angewendet, würde dies unserer Ansicht nach im Wesentlichen alle neuen Modellbereitstellungen für alle Anbieter von Pioniermodellen zum Erliegen bringen.“

Es wird allgemein erwartet, dass Anthropic in diesem Jahr einen Börsengang anstrebt und sich dabei als die sicherheitsbewusste Alternative zu seinen Konkurrenten positioniert. Beobachter weisen auf die Ironie hin, dass die Vorsicht, die Anthropic bei der Einschränkung von Mythos walten ließ – indem es das Modell als zu gefährlich für eine öffentliche Freigabe bezeichnete –, nun genau jene behördliche Überprüfung ausgelöst hat, die das Geschäft des Unternehmens beeinträchtigen könnte.

Sam Altman von OpenAI scheint die Situation zu genießen. Im April sagte er dem Podcaster Ashlee Vance, dass Anthropics Umgang mit Mythos „auf Angst basierendes Marketing“ sei. „Es ist ganz klar ein unglaubliches Marketing, zu sagen: ‚Wir haben eine Bombe gebaut. Wir wollten sie euch gerade auf den Kopf werfen. Wir verkaufen euch einen Luftschutzbunker für 100 Millionen Dollar‘“, sagte Altman. Zwar prognostizierte Altman, dessen Unternehmen ebenfalls einen baldigen Börsengang plant, keine behördliche Stilllegung, doch hob er eine Konsequenz der Strategie von Anthropic hervor: Indem das Unternehmen monatelang davor warnte, dass seine KI besonders gefährlich sei, sorgte es dafür, dass die US-Regierung darauf aufmerksam wurde.