Die Kluft zwischen dem Pentagon und Anthropic könnte Start-ups davon abhalten, im Verteidigungsbereich tätig zu werden

Innerhalb von etwas mehr als einer Woche scheiterten die Verhandlungen darüber, wie das Pentagon die Claude-Technologie von Anthropic nutzen könnte, die Trump-Regierung stufte Anthropic als Risiko für die Lieferkette ein, und das KI-Unternehmen kündigte an, diese Einstufung vor Gericht anzufechten.

Unterdessen schloss OpenAI rasch einen eigenen Vertrag ab, was eine Gegenreaktion auslöste, die Nutzer dazu veranlasste, ChatGPT zu deinstallieren, und Anthropics „Claude“ an die Spitze der App-Store-Charts katapultierte. Mindestens ein OpenAI-Führungskraft trat zurück und begründete dies mit der Sorge, dass die Ankündigung ohne angemessene Sicherheitsvorkehrungen überstürzt erfolgt sei.

In der neuesten Folge des „Equity“-Podcasts von TechCrunch diskutierten Kirsten Korosec, Sean O’Kane und ich, was dies für andere Start-ups bedeutet, die eine Partnerschaft mit der US-Regierung, insbesondere dem Pentagon, anstreben. Kirsten fragte: „Werden wir einen Kurswechsel erleben?“

Sean merkte an, dass die Situation in mehrfacher Hinsicht ungewöhnlich sei, unter anderem weil OpenAI und Claude Produkte herstellen, über die „niemand den Mund halten kann“. Entscheidend sei, dass sich der Streit darum drehe, „wie ihre Technologien eingesetzt werden – oder nicht eingesetzt werden –, um Menschen zu töten“, was naturgemäß eine genauere Prüfung nach sich ziehe.

Dennoch argumentierte Kirsten, dass dieses Szenario „jedem Start-up zu denken geben sollte“.

Im Folgenden finden Sie einen Auszug aus unserem Gespräch, der aus Gründen der Länge und Verständlichkeit redaktionell bearbeitet wurde.

Kirsten: Ich bin gespannt, ob andere Start-ups beobachten, was mit der US-Regierung passiert ist – insbesondere das Pentagon und Anthropic, diese Debatte und dieses Ringen – und ob sie nun zögern, Bundesgelder anzustreben. Werden wir eine Kehrtwende erleben?

Sean: Das frage ich mich auch. Kurzfristig glaube ich eher nicht, schon allein deshalb, weil viele der Unternehmen – seien es Start-ups oder etabliertere Fortune-500-Konzerne –, die mit der Regierung zusammenarbeiten, insbesondere mit dem Verteidigungsministerium oder dem Pentagon, einen Großteil ihrer Arbeit unter dem Radar abwickeln.

General Motors baut schon seit sehr langer Zeit Militärfahrzeuge für die Armee und hat an vollelektrischen und autonomen Versionen gearbeitet. Diese Art von Arbeit findet ständig statt und dringt selten ins öffentliche Bewusstsein vor. Das Problem, auf das OpenAI und Anthropic letzte Woche gestoßen sind, ist, dass es sich um Unternehmen handelt, die Produkte herstellen, die von einer Unmenge von Menschen genutzt werden – und, was noch wichtiger ist, Produkte, über die „niemand den Mund halten kann“.

Daher stehen sie massiv im Rampenlicht, was ihre Beteiligung natürlich in einem Maße hervorhebt, mit dem die meisten anderen Unternehmen, die Verträge mit der Bundesregierung – insbesondere mit deren militärischen Zweigen – haben, nicht konfrontiert sind.

Die einzige Einschränkung, die ich hinzufügen möchte, ist, dass sich ein Großteil der hitzigen Diskussion zwischen Anthropic, OpenAI und dem Pentagon ganz konkret darum dreht, inwiefern ihre Technologien dazu genutzt werden oder nicht, Menschen zu töten, oder in Teilen von Einsätzen, bei denen dies geschieht. Es geht nicht nur um die Aufmerksamkeit und den Bekanntheitsgrad der Marke; es gibt eine zusätzliche Ebene, die abstrakter wirkt, wenn man General Motors als Rüstungsunternehmen betrachtet.

Ich glaube nicht, dass sich Applied Intuition oder andere Dual-Use-Unternehmen stark zurückziehen werden, einfach weil sie nicht im Rampenlicht stehen und es kein gemeinsames Verständnis dafür gibt, wie diese Auswirkungen aussehen könnten.

Anthony: Diese Geschichte ist wirklich einzigartig und sehr spezifisch für diese Unternehmen und Persönlichkeiten. Es gab bereits zahlreiche Reflexionen über die Rolle von Technologie – und KI – in der Regierung, und das sind alles Fragen, deren Erforschung lohnenswert ist.

Allerdings ist dies ein interessanter Blickwinkel, um diese Ideen zu beleuchten, denn Anthropic und OpenAI unterscheiden sich in vielerlei Hinsicht – oder in den Standpunkten, die sie vertreten – eigentlich gar nicht so sehr. Es ist nicht so, dass das eine Unternehmen sagt: „Ich will nicht mit der Regierung zusammenarbeiten“, und das andere sagt: „Doch, das will ich.“ Oder dass das eine sagt: „Macht, was ihr wollt“, und das andere: „Ich will Einschränkungen.“ Beide sagen, zumindest öffentlich, dass sie Einschränkungen hinsichtlich der Nutzung ihrer KI wünschen. Es scheint nur so, als würde Anthropic noch mehr darauf bestehen, dass die Bedingungen nicht geändert werden dürfen.

Hinzu kommt offenbar noch eine persönliche Ebene: Der CEO von Anthropic und Emil Michael – den viele TechCrunch-Leser vielleicht noch aus seiner Zeit bei Uber kennen und der mittlerweile Chief Technology Officer im Verteidigungsministerium ist – können sich Berichten zufolge offenbar überhaupt nicht ausstehen.

Sean: Ja, hier gibt es ein sehr starkes „Mädchen streiten sich“-Element, das wir nicht übersehen sollten.

Kirsten: Ja, ein bisschen. Aber die Auswirkungen gehen darüber hinaus. Wenn man etwas Abstand nimmt: Wir sprechen hier von einem Streit zwischen dem Pentagon und Anthropic, bei dem Anthropic offenbar den Kürzeren gezogen hat – wobei ich anmerken sollte, dass das Militär ihre Technologie nach wie vor nutzt. Das gilt als entscheidend. Aber OpenAI hat sich eingeschaltet, und die Situation entwickelt sich weiter; bis diese Folge ausgestrahlt wird, wird sich wahrscheinlich noch einiges ändern.

Die Gegenreaktion auf OpenAI war interessant: Die Deinstallationen von ChatGPT stiegen um etwa 295 %, nachdem der Vertrag mit dem Verteidigungsministerium unter Dach und Fach war.

Für mich ist all das nur Nebensache gegenüber dem wirklich Kritischen und Gefährlichen: Das Pentagon versuchte, bestehende Bedingungen eines bestehenden Vertrags zu ändern. Das ist bedeutsam und sollte jedem Start-up zu denken geben, denn die politische Maschinerie im Verteidigungsministerium scheint derzeit anders zu funktionieren. Das ist nicht normal. Verträge auf Regierungsebene brauchen ewig, bis sie feststehen, und die Tatsache, dass versucht wird, diese Bedingungen zu ändern, ist ein Problem.

Der Player wird geladen…