Beim US-Verbot von Anthropic-Modellen ging es nicht um das „Jailbreaking“ von KI

Ein kürzlich von der US-Regierung an Anthropic gerichtetes Aufforderungsschreiben, das das Unternehmen praktisch dazu zwang, seine neuesten KI-Modelle kurz vor dem Wochenende offline zu nehmen, sollte als deutliche Warnung für jedes US-Technologieunternehmen dienen – unabhängig davon, ob es sich um ein KI-Labor handelt oder nicht.

Hier eine kurze Zusammenfassung: Am Freitagnachmittag sandte das US-Handelsministerium ein Schreiben an Anthropic, in dem es sich auf eine wenig bekannte Exportkontrollvorschrift berief, die Nicht-US-Bürgern – einschließlich der eigenen Mitarbeiter von Anthropic – den Zugriff auf „Fable 5“ und „Mythos 5“ untersagte, und dabei auf nicht näher bezeichnete Bedenken hinsichtlich der nationalen Sicherheit verwies. Anthropic erklärte, man gehe davon aus, dass sich das Schreiben auf eine Umgehung der Sicherheitsvorkehrungen des Modells beziehe, sei sich jedoch nicht sicher, da es an konkreten Details mangele. Das Schreiben wurde nicht veröffentlicht.

Als Reaktion darauf hat Anthropic seine beiden Flaggschiff-Modelle für alle Kunden abgeschaltet, um die Einhaltung der Anordnung sicherzustellen. Damit ist es der US-Regierung gelungen, ein Technologieunternehmen durch eine schnelle, einseitige Maßnahme, die offenbar keiner gerichtlichen Genehmigung bedurfte, dazu zu zwingen, seine Modelle offline zu nehmen.

Das Eingreifen der Trump-Regierung am Freitag zeigt, dass die KI-Branche nicht immun gegen staatliche Eingriffe ist. Es sendet zudem eine allgemeinere Botschaft an die Tech-Welt: Haltet euch an die Vorschriften, oder wir können sowohl euch als auch eure Produkte stilllegen.

Unter Berufung auf Quellen beschrieb Axios eine angespannte Situation am Wochenende zwischen den beiden Hauptparteien und deutete an, dass „Persönlichkeitskonflikte“ zwischen Anthropic und der Trump-Regierung – und nicht etwa ein technischer Fehler in den KI-Produkten – Auslöser für die Exportverfügung waren.

Neue Details, die am Wochenende bekannt wurden, lassen nun noch mehr Zweifel an der ohnehin schon fragwürdigen Begründung der Regierung aufkommen.

Katie Moussouris, eine erfahrene Cybersicherheitsexpertin, Forscherin und Gründerin von Luta Security, schrieb in einem Blogbeitrag, dass Anthropic ihr kürzlich eine vertrauliche Kopie eines Papiers von Sicherheitsforschern zur Verfügung gestellt habe, in dem eine angebliche Umgehung der Sicherheitsvorkehrungen in Fable 5 beschrieben wird. (Das „Wall Street Journal“ berichtet, dass die Autoren des Papiers Sicherheitsforscher bei Amazon sind.) Moussouris sagte, Anthropic habe sich an sie gewandt, um ihre Meinung zu dem Papier einzuholen.

In ihrem Blogbeitrag beschrieb Moussouris, wie die Forscher die Umgehung der Sicherheitsbarriere auslösten, merkte jedoch an, dass die Umgehung selbst „niemals eine Exportkontrolle hätte auslösen dürfen“. Der entscheidende Unterschied liegt darin, ob man ein KI-Modell auffordert, „Code auf Sicherheitsprobleme zu überprüfen“, oder ob man es bittet, „diesen Code zu korrigieren“. Das Endergebnis ist weitgehend dasselbe, selbst wenn die Fragen leicht unterschiedlich formuliert sind.

„Das in der Veröffentlichung beschriebene Verhalten lässt sich nicht sinnvoll beheben, und jeder Versuch würde das Modell zur Verteidigung nur schwächen“, sagte Moussouris, die die Exportkontrollverordnung als übereilt, überzogen und fehlgeleitet kritisierte.

Moussouris hat zusammen mit Dutzenden anderer führender Sicherheitsforscher und -experten die Trump-Regierung inzwischen aufgefordert, die Exportkontrollverordnung aufzuheben, und bezeichnete den Schritt, den Netzwerkverteidigern in den USA fortschrittliche Cybersicherheitsfähigkeiten zu entziehen, als „gefährlich“.

Frühere Regierungen haben bereits pauschale Entscheidungen auf der Grundlage von Wissenslücken getroffen. So war beispielsweise die Formulierung, die die US-Regierung in den 2010er Jahren verwendete, um Exportgesetze für Cybersicherheits-Tools anzupassen, die auch für Cyberangriffe genutzt werden könnten, so weit gefasst, dass sie unbeabsichtigt legitime Sicherheits- und Schwachstellenforschung fast verboten hätte.

Die Anordnung der Trump-Regierung scheint jedoch vergeltender Natur zu sein.

Justin Hendrix, Herausgeber von „Tech Policy Press“, sagte, der Schritt der Trump-Regierung werde „in ausländischen Hauptstädten wahrscheinlich Alarmglocken hinsichtlich der Zuverlässigkeit amerikanischer KI für kritische Anwendungen läuten lassen“. Die Botschaft lautet, dass man KI-Unternehmen in den Vereinigten Staaten nicht zutrauen könne, ohne Einmischung der US-Regierung zu agieren.

Die Trump-Regierung hat nicht bestätigt, warum sie die Exportkontrollrichtlinie geltend gemacht hat. Haben Beamte den Bericht falsch interpretiert und überreagiert? Hat Amazon-CEO Andy Jassy gegenüber hochrangigen Regierungsbeamten etwas gesagt, das diese Reaktion ausgelöst hat – aus Vorsicht oder aus Boshaftigkeit? Ist bei der Übersetzung etwas verloren gegangen, oder war dies ein Mittel, um Druck auf Anthropic auszuüben, zu dem die Regierung ohnehin schon ein angespanntes Verhältnis hat? Es ist möglich, dass sich das Weiße Haus der weitreichenden Konsequenzen der in dem Schreiben geäußerten Forderung nicht bewusst war und die Beamten nun verzweifelt versuchen, den von ihnen verursachten Schaden wieder gutzumachen.

Um Hendrix zu zitieren: „Es herrscht ein Klima des Misstrauens, dass hochrangige Beamte aufgrund persönlicher und politischer Faktoren Favoriten auswählen.“ Die Folge ist, dass die Regierung einen gefährlichen Präzedenzfall geschaffen hat, was das Ausmaß der Kontrolle betrifft, die sie über die Veröffentlichung von in den USA entwickelter Software ausüben will.

Diesmal hat die Regierung Anthropic ins Visier genommen; morgen könnte es jeder andere sein.