Was die Konfrontation zwischen Anthropic und dem Pentagon für die nationale Sicherheit bedeutet

Die letzten zwei Wochen standen ganz im Zeichen einer öffentlichen Auseinandersetzung zwischen Dario Amodei, dem CEO von Anthropic, und Verteidigungsminister Pete Hegseth, bei der es um den Einsatz von KI-Technologie durch das Militär ging.

Anthropic hat Richtlinien festgelegt, die den Einsatz seiner KI-Modelle für die Massenüberwachung amerikanischer Bürger oder für vollständig autonome Waffensysteme, die ohne menschliche Genehmigung Angriffe ausführen, verbieten. Im Gegensatz dazu vertritt Verteidigungsminister Hegseth die Ansicht, dass das Verteidigungsministerium nicht durch die Regeln eines Anbieters eingeschränkt werden sollte, und plädiert dafür, die Technologie für jede „rechtmäßige Nutzung“ einsetzen zu dürfen.

Am Donnerstag erklärte Amodei öffentlich, dass Anthropic nicht die Absicht habe, von seiner Position abzurücken, obwohl dem Unternehmen möglicherweise die Einstufung als Risiko für die Lieferkette droht. Angesichts der rasanten Nachrichtenentwicklung ist es entscheidend, die Kernfragen dieses Konflikts klar zu verstehen.

Im Grunde geht es bei diesem Streit um Kontrolle: Wer regelt den Einsatz leistungsfähiger KI-Systeme – die Unternehmen, die sie entwickeln, oder die Regierungsbehörden, die sie einsetzen wollen?

Worüber macht sich Anthropic Sorgen?

Wie bereits erwähnt, bestehen die Hauptbedenken von Anthropic darin, dass seine Modelle für Massenüberwachung oder autonome Waffen eingesetzt werden könnten, bei denen menschliche Aufsicht über Ziel- und Einsatzentscheidungen fehlt. Im Gegensatz zu traditionellen Rüstungsunternehmen, die oft nur begrenzte Kontrolle über die Endnutzung haben, vertritt Anthropic seit seiner Gründung die Auffassung, dass die besonderen Risiken der KI besondere Sicherheitsvorkehrungen erfordern. Die zentrale Herausforderung für das Unternehmen besteht darin, diese Sicherheitsvorkehrungen aufrechtzuerhalten, wenn seine Technologie vom Militär genutzt wird.

Das US-Militär setzt bereits hochautomatisierte Systeme ein, von denen einige über tödliche Fähigkeiten verfügen. Während die endgültige Entscheidung über den Einsatz tödlicher Gewalt traditionell bei Menschen liegt, gibt es nur wenige rechtliche Beschränkungen für autonome Militärwaffen. Das Verteidigungsministerium hat kein generelles Verbot für vollständig autonome Systeme. Eine Richtlinie aus dem Jahr 2023 erlaubt es KI, Ziele selbstständig auszuwählen und anzugreifen, sofern bestimmte Standards erfüllt sind und hochrangige Beamte ihre Zustimmung erteilen.

Genau dieser politische Rahmen beunruhigt Anthropic. Die Entwicklung militärischer Technologien ist oft undurchsichtig; Schritte zur Automatisierung tödlicher Entscheidungen werden möglicherweise erst dann öffentlich bekannt, wenn ein System bereits einsatzbereit ist. Würde ein solches System die Modelle von Anthropic enthalten, könnte das Pentagon dies als „rechtmäßige Nutzung“ betrachten.

Sparen Sie bis zu 300 $ oder 30 % beim TechCrunch Founder Summit

Über 1.000 Gründer und Investoren werden sich beim TechCrunch Founder Summit 2026 zu einem Tag versammeln, der ganz im Zeichen von Wachstum, Umsetzung und praktischen Skalierungsstrategien steht. Gewinnen Sie Einblicke von branchenprägenden Gründern und Investoren. Knüpfen Sie Kontakte zu Kollegen, die vor ähnlichen Wachstumsherausforderungen stehen. Nehmen Sie umsetzbare Strategien mit, die Sie sofort anwenden können.

Das Angebot endet am 13. März.

Sparen Sie bis zu 300 $ oder 30 % beim TechCrunch Founder Summit

Treffen Sie sich mit über 1.000 Gründern und Investoren auf dem TechCrunch Founder Summit 2026 zu einem intensiven Tag, der sich auf Wachstum, Umsetzung und praxisnahe Skalierung konzentriert. Lernen Sie von Gründern und Investoren, die die Branche geprägt haben. Knüpfen Sie Kontakte zu Gleichgesinnten in ähnlichen Phasen. Nehmen Sie praktische Strategien mit, die Sie sofort anwenden können.

Das Angebot endet am 13. März.

Anthropic vertritt nicht die Ansicht, dass solche Anwendungen für immer verboten werden sollten, sondern dass die aktuellen Modelle noch nicht ausreichend in der Lage sind, sie sicher zu handhaben. Bedenken Sie die Risiken: Ein autonomes System, das ein Ziel falsch identifiziert, einen Konflikt ohne Genehmigung eskaliert oder in einem Augenblick eine irreversible, tödliche Entscheidung trifft. Eine nicht perfekte KI die Kontrolle über Waffen zu geben, schafft ein schnelles, selbstbewusstes System, das für Entscheidungen mit hohem Risiko schlecht gerüstet ist.

Darüber hinaus hat KI das Potenzial, die rechtmäßige Überwachung von US-Bürgern in beunruhigendem Ausmaß zu verstärken. Während die Überwachung durch die Erfassung von Texten, E-Mails und Kommunikationen nach bestimmten Gesetzen bereits zulässig ist, verändert KI die Lage grundlegend. Sie ermöglicht automatisierte, groß angelegte Mustererkennung, datensatzübergreifende Analysen, prädiktive Risikobewertung und kontinuierliche Verhaltensüberwachung.

Was will das Pentagon?

Die Position des Pentagons ist klar: Es strebt die Freiheit an, die Technologie von Anthropic für jeden rechtmäßigen Zweck einzusetzen, den es für notwendig erachtet, ohne an die internen Richtlinien des Unternehmens zu autonomen Waffen oder Überwachung gebunden zu sein.

Verteidigungsminister Hegseth hat ausdrücklich argumentiert, dass das Verteidigungsministerium nicht durch die Regeln eines Anbieters eingeschränkt werden sollte, und betont, dass es die Technologie nur „rechtmäßig“ nutzen werde.

Sean Parnell, der Chefsprecher des Pentagons, erklärte in einem Beitrag auf X am Donnerstag, dass das Ministerium kein Interesse daran habe, eine massenhafte Überwachung im Inland durchzuführen oder autonome Waffen einzusetzen.

„Unsere Forderung ist einfach: Erlauben Sie dem Pentagon, das Modell von Anthropic für alle rechtmäßigen Zwecke zu nutzen“, sagte Parnell. „Dies ist ein vernünftiger Ansatz, um zu verhindern, dass Anthropic kritische Militäroperationen gefährdet und möglicherweise unser Personal in Gefahr bringt. Wir können nicht zulassen, dass irgendein Unternehmen die Bedingungen unserer operativen Entscheidungen diktiert.“

Er fügte hinzu, dass Anthropic bis Freitag um 17:01 Uhr ET Zeit habe, sich zu entscheiden. „Andernfalls werden wir unsere Partnerschaft beenden und Anthropic als Risiko für die Lieferkette des Verteidigungsministeriums einstufen“, sagte er.

Während sich die offizielle Haltung des Ministeriums auf operative Freiheit konzentriert, haben Minister Hegseths Kritikpunkte gelegentlich kulturelle Themen angesprochen. In einer Rede im Januar in den Büros von SpaceX und xAI prangerte er das an, was er als „woke AI“ bezeichnete – Kommentare, die viele als Vorboten des aktuellen Konflikts mit Anthropic betrachteten.

„Die KI des Verteidigungsministeriums wird nicht ‚woke‘ sein“, erklärte Hegseth. „Wir bauen kriegstaugliche Systeme, keine Chatbots, die für ein Ivy-League-Seminar konzipiert sind.“

Wie geht es nun weiter?

Das Pentagon hat mit zwei möglichen Maßnahmen gedroht: Anthropic als „Risiko für die Lieferkette“ einzustufen, was das Unternehmen effektiv von Regierungsaufträgen ausschließen würde, oder den Defense Production Act anzuwenden, um das Unternehmen zu zwingen, seine Modelle für den militärischen Einsatz anzupassen. Da Hegseths Frist am Freitag näher rückt, bleibt ungewiss, ob das Pentagon seine Drohungen wahr machen wird.

Dies ist für beide Seiten eine Pattsituation mit hohem Einsatz. Sachin Seth, ein auf Verteidigungstechnologie spezialisierter Risikokapitalgeber bei Trousdale Ventures, weist darauf hin, dass eine Einstufung als Lieferkettenrisiko für Anthropic katastrophal sein könnte.

Umgekehrt, so merkt er an, könnte es zu einer Schwachstelle in der nationalen Sicherheit kommen, wenn das Verteidigungsministerium die Beziehungen zu Anthropic abbricht.

„Das Ministerium stünde vor einer Lücke von sechs bis zwölf Monaten, während es darauf wartet, dass Konkurrenten wie OpenAI oder xAI eine vergleichbare Leistungsfähigkeit erreichen“, sagte Seth gegenüber TechCrunch. „Das schafft ein Zeitfenster, in dem sie möglicherweise auf zweit- oder drittbeste Modelle angewiesen wären.“

xAI bereitet seine Technologie auf Sicherheitsklassifizierungen vor und könnte Anthropic potenziell ersetzen. Angesichts der öffentlichen Äußerungen des Eigentümers Elon Musk ist es wahrscheinlich, dass xAI dem Pentagon die volle Kontrolle über seine Technologie gewähren würde. Jüngste Berichte deuten darauf hin, dass OpenAI ähnliche Einschränkungen wie Anthropic aufrechterhalten könnte.