Trumps KI-Strategie: Wie geht es mit der US-Politik weiter?

Am 3. August forderten fünf demokratische Senatoren die Trump-Regierung auf, ihre Aufsicht über Open-Weight-KI-Modelle zu präzisieren, und wiesen dabei auf Bedenken hinsichtlich der Wettbewerbsbedrohung durch chinesische KI-Systeme hin. Bildquelle: Getty

Nach den jüngsten Cybervorfällen soll die Trump-Regierung KI-Entwickler darüber informiert haben, dass Modelle mit offenen Gewichten keiner freiwilligen Sicherheitsprüfung unterzogen werden.

Am Dienstag trafen sich Vertreter des Weißen Hauses mit Führungskräften der weltweit führenden KI-Unternehmen.

Zu den Teilnehmern gehörten laut Berichten der „New York Times“ Vertreter von Anthropic, OpenAI, Microsoft, Meta, Google und NVIDIA.

Dieses Treffen folgt auf eine Reihe von Hackerangriffen durch autonome KI, darunter das Eingeständnis von Anthropic, dass seine Modelle während einer Trainingsübung in die Systeme von drei Unternehmen eingedrungen sind. Es knüpft zudem an die von Präsident Donald Trump im Juni unterzeichnete Verordnung mit dem Titel „Förderung fortschrittlicher Innovationen und Sicherheit im Bereich der künstlichen Intelligenz“ an.

Am 29. Juli erklärte Präsident Donald Trump, dass seine Regierung als Reaktion auf beispiellose Sicherheitsvorfälle strengere Kontrollen für KI-Tools in Erwägung ziehe. Bildnachweis: Das Weiße Haus

Keine Sicherheitstests für offene Modelle

Laut drei Quellen, die mit der „New York Times“ sprachen, handelt es sich bei den von der Regierung geprüften KI-Modellen um „geschlossene“ Modelle, was bedeutet, dass ihr zugrunde liegender Code nicht veröffentlicht wird.

Dabei handelt es sich um wegweisende Modelle großer Unternehmen wie OpenAI und Anthropic. Eine Quelle teilte der „New York Times“ mit, dass die Vorschriften für diese KI-Prüfungen fast fertiggestellt seien.

Zwei mit den Diskussionen vertraute Quellen teilten Reuters mit, dass die Trump-Regierung beschlossen habe, keine freiwilligen Sicherheitstests für offene KI-Modelle zu verlangen.

Meta, Google und NVIDIA stellen ebenso wie chinesische KI-Forschungslabore wie Alibaba, Moonshot und DeepSeek Open-Source-Modelle her.

In den vergangenen Wochen haben sowohl Alibaba als auch Moonshot Modelle veröffentlicht, die weithin als fast auf dem Niveau der Spitzenprodukte von US-Pionierunternehmen angesehen werden. Moonshot gibt an, dass seine Kimi-Modelle in neun der letzten zwölf Monate die Obergrenze für die Größe offener Modelle gesetzt haben.

Das chinesische Unternehmen gibt an, dass Kimi K3 das erste offene Modell ist, das 2,8 Billionen Parameter erreicht und damit intelligentere und tiefgreifendere KI-Fähigkeiten ermöglicht. Von der „Financial Times“ zitierte Branchenexperten schätzen, dass das Flaggschiff von Anthropic, Claude Opus 4.8, zwischen 1,5 Billionen und zwei Billionen Parameter enthält.

Im Februar 2026 warf Anthropic den chinesischen KI-Labors DeepSeek, Moonshot und MiniMax vor, „Kampagnen im industriellen Maßstab“ durchzuführen, um „die Fähigkeiten von Claude unrechtmäßig zu extrahieren und damit ihre eigenen Modelle zu verbessern“. Bildnachweis: Alvan Nee/Unsplash

Am Montag forderten fünf demokratische Senatoren von der Trump-Regierung Antworten bezüglich ihrer Aufsicht über wegweisende KI-Modelle und äußerten dabei Bedenken hinsichtlich der wahrgenommenen Bedrohung durch chinesische KI-Systeme.

Sie schrieben: „Die USA können es sich nicht leisten, ein politisches Umfeld zu schaffen, in dem die fortschrittlichsten amerikanischen KI-Systeme undurchsichtigen, fallbezogenen Beschränkungen unterliegen, während chinesische Alternativen billiger, leichter zugänglich und in der Umsetzung vorhersehbarer erscheinen.

„Ein klarer öffentlicher Rahmen ist notwendig, um die nationale Sicherheit zu schützen, die Führungsrolle der USA im Bereich der KI zu bewahren und der Industrie sowie den Verbündeten das Vertrauen zu geben, dass die Vereinigten Staaten die sicherste und zuverlässigste Quelle für fortschrittliche KI-Technologie bleiben.“

Der Brief wurde von Mark R. Warner (D-VA), Kirsten Gillibrand (D-NY), Chris Coons (D-DE), Mark Kelly (D-AZ) und Adam Schiff (D-CA) unterzeichnet.

Aufbauend auf einem freiwilligen Regulierungsrahmen

In einer im Juni erlassenen Exekutivverordnung erklärte Präsident Trump, dass verschiedene Behörden innerhalb von 60 Tagen nach Erlass der Verordnung „ein geheimes Benchmarking-Verfahren entwickeln und aufrechterhalten sollen, um die fortschrittlichen Cyberfähigkeiten von KI-Modellen zu bewerten“.

Die Verordnung zielt darauf ab, gemeinsam mit KI-Entwicklern einen freiwilligen Rahmen zu gestalten, der es ihnen ermöglicht, der Bundesregierung Zugang zu den erfassten Pioniermodellen zu gewähren und „mit der Bundesregierung zusammenzuarbeiten, um vertrauenswürdige Partner auszuwählen, die frühzeitig Zugang zu den erfassten Pioniermodellen erhalten, um sichere Innovation zu fördern und die Cybersicherheit kritischer Infrastrukturen zu stärken“.

Shane Tierney, Senior Program Manager im Bereich GRC beim Softwareunternehmen Drata, kommentierte: „Das Wichtigste dabei ist nicht, dass Washington Einblick in Pioniermodelle erhalten möchte. Es geht vielmehr darum, dass die Regierung ein Testverfahren zur nationalen Sicherheit weitgehend hinter verschlossenen Türen aufbaut, es aber gleichzeitig als freiwillig bezeichnet. Das mag zwar zweckmäßig sein, ist jedoch kein Ersatz für Transparenz.“

Shane Tierney, Senior Program Manager bei Drata. Bildnachweis: Shane Tierney/LinkedIn

„Das Wort ‚freiwillig‘ hat eine große Wirkung. Wenn die Teilnahme de facto zu einer Voraussetzung für den Zugang zu staatlichen Märkten, zu vertrauenswürdigen Partnern oder zu regulatorischem Wohlwollen wird, könnten Unternehmen dies als verpflichtend empfinden – ohne die Schutzmaßnahmen eines formellen Regelungsprozesses.“

Claude Cyberhacking

Diese ernsthaften Bedenken sind nach einer Reihe von Cybervorfällen aufgekommen, bei denen autonome Modelle außer Kontrolle gerieten und unabhängige Unternehmen hackten. OpenAI berichtete zunächst, dass seine Modelle während eines Tests in die KI- und ML-Plattform Hugging Face eingedrungen seien.

Anthropic berichtete daraufhin letzte Woche, dass nach der Überprüfung von 141.006 Testläufen, bei denen Claude Internetzugang hätte erlangen können, drei Vorfälle identifiziert wurden, bei denen ein Modell aus einer Testumgebung heraus oder während der Interaktion mit dieser auf das Internet zugegriffen hatte.

Trevor Dearing, Director of Critical Infrastructure bei Illumio, kommentierte den Hackerangriff des Anthropic-Modells auf die Systeme von drei Organisationen wie folgt: „Es ist nicht überraschend, dass wir immer mehr solcher Vorfälle beobachten.“

Trevor Dearing, Leiter des Bereichs Critical Infrastructure Solutions bei Illumio

„Sobald ein autonomer Agent in der Lage ist, über eine kontrollierte Umgebung hinauszugehen, erkennt er organisatorische Grenzen nicht mehr so, wie wir sie uns üblicherweise vorstellen.

„Noch schockierender an den beobachteten Fällen ist, wie rudimentär die Sicherheitsmaßnahmen sind, die dies nicht verhindern konnten. Wir bewegen uns auf eine Welt zu, in der Angriffe mit maschineller Geschwindigkeit erfolgen können, sodass Fehler, die früher vielleicht unbemerkt geblieben wären, nun aufgedeckt werden.“

Das Risiko des Wettlaufs um AGI

Da Unternehmen offenlegen, dass fortschrittliche KI-Modelle sich unvorhersehbar verhalten, wurden ernsthafte Bedenken hinsichtlich des Tempos geäußert, mit dem Unternehmen die Entwicklung einer allgemeinen künstlichen Intelligenz (AGI) vorantreiben. Dies hat einige, darunter Demis Hassabis, CEO von Google DeepMind, dazu veranlasst, robustere regulatorische Rahmenbedingungen zu fordern.

Es wird allgemein angenommen, dass sich diese Risiken noch verschärfen, wenn Unternehmen im Wettlauf um die Entwicklung dieser Technologie stehen. Im Jahr 2025 schrieb Steven Adler, ein ehemaliger Forscher für Sicherheit und Governance bei OpenAI, auf X: „Heute scheint es, als steckten wir in einem wirklich schlechten Gleichgewicht fest.“

Steve Adler, Mitbegründer von Guidelight AI Standards und ehemaliger OpenAI-Forscher. Bildnachweis: Steven Adler/LinkedIn

„Selbst wenn ein Forschungslabor wirklich bestrebt ist, AGI verantwortungsvoll zu entwickeln, können andere dennoch Abstriche machen, um aufzuholen – möglicherweise mit katastrophalen Folgen. Und das treibt alle dazu an, das Tempo zu erhöhen. Ich hoffe, dass die Forschungslabore offen darüber sprechen, welche konkreten Sicherheitsvorschriften erforderlich sind, um dies zu verhindern.“

Viele Experten sehen das Aussterben der Menschheit als mögliche Folge fortschrittlicher KI-Modelle. Das „Bulletin of the Atomic Scientists“ – das im Januar 2026 die Weltuntergangsuhr auf 85 Sekunden vor Mitternacht stellte, so nah an Mitternacht wie noch nie zuvor in seiner Geschichte – forderte dringende Maßnahmen zur Festlegung internationaler Richtlinien für den Einsatz von KI.

Washington befindet sich in einer Zwickmühle: Aufgrund der wahrgenommenen geopolitischen Bedrohung durch China kann es die Entwicklung dieser Modelle nicht verlangsamen, riskiert jedoch ernsthafte und berechtigte Sicherheitsbedenken, wenn es Spitzenlabors erlaubt, ohne sinnvolle Aufsicht voranzustürmen.