OpenAI gibt weitere Bedingungen der Partnerschaft mit dem Pentagon bekannt

Sam Altman, CEO von OpenAI, hat eingeräumt, dass die Vereinbarung des Unternehmens mit dem Verteidigungsministerium zu schnell abgeschlossen wurde und dass die öffentliche Wahrnehmung ungünstig ist.

Nach dem Scheitern der Gespräche zwischen Anthropic und dem Pentagon am Freitag ordnete Präsident Donald Trump an, dass Bundesbehörden nach einer sechsmonatigen Übergangsphase die Nutzung der Technologie von Anthropic einstellen müssen. Verteidigungsminister Pete Hegseth bezeichnete das KI-Unternehmen als Risiko für die Lieferkette.

OpenAI kündigte daraufhin umgehend eine eigene Vereinbarung zum Einsatz von Modellen in geheimen Umgebungen an. Da Anthropic erklärte, die Verwendung seiner Technologie in vollautonomen Waffen oder zur massenhaften Überwachung im Inland zu verbieten, und Altman bestätigte, dass OpenAI die gleichen Einschränkungen hat, kamen Fragen auf: War OpenAI hinsichtlich seiner Sicherheitsvorkehrungen transparent? Warum konnte OpenAI einen Vertrag abschließen, Anthropic hingegen nicht?

Während Führungskräfte von OpenAI die Vereinbarung in den sozialen Medien verteidigten, veröffentlichte das Unternehmen auch einen Blogbeitrag, in dem es seine Strategie detailliert darlegte.

Der Beitrag hob drei spezifische Anwendungsbereiche hervor, in denen die Modelle von OpenAI nicht zulässig sind: Massenüberwachung im Inland, autonome Waffensysteme und „automatisierte Entscheidungen mit hohem Risiko (wie z. B. „Sozialkreditsysteme”)”.

OpenAI erklärte, dass es im Gegensatz zu anderen KI-Unternehmen, die „Sicherheitsmaßnahmen abgeschwächt oder aufgehoben haben und sich bei Einsätzen im Bereich der nationalen Sicherheit hauptsächlich auf Nutzungsrichtlinien als Sicherheitsvorkehrungen verlassen”, seine Vereinbarung seine roten Linien „durch einen breiteren, mehrschichtigen Ansatz” aufrechterhält.

„Wir behalten die volle Kontrolle über unsere Sicherheitsinfrastruktur, setzen sie über die Cloud ein, beziehen autorisiertes OpenAI-Personal ein und setzen strenge vertragliche Schutzmaßnahmen durch“, erklärte der Blog. „Diese kommen zu den bereits durch US-amerikanisches Recht gewährten robusten Schutzmaßnahmen hinzu.“

Das Unternehmen merkte weiter an: „Wir sind uns nicht sicher, warum Anthropic keine ähnliche Vereinbarung erzielen konnte, und wir hoffen, dass sie und andere Labore diesen Weg in Betracht ziehen werden.“

Nach der Veröffentlichung des Beitrags argumentierte Mike Masnick von Techdirt, dass die Vereinbarung „die Überwachung im Inland zulässt“, da sie besagt, dass die Erhebung privater Daten gemäß der Executive Order 12333 und anderen Gesetzen erfolgt. Masnick bezeichnete diese Verordnung als „die Rechtsgrundlage, auf der die NSA die Überwachung im Inland durch das Abhören von Kommunikationen außerhalb der USA durchführt, selbst wenn diese US-Bürger betreffen“.

In einem Beitrag auf LinkedIn argumentierte Katrina Mulligan, Leiterin der Abteilung für nationale Sicherheitspartnerschaften bei OpenAI, dass ein Großteil der Debatte über den Vertragstext davon ausgeht, dass „die einzige Barriere gegen den Einsatz von KI für die Massenüberwachung im Inland und autonome Waffen eine einzige Klausel in einem Vertrag mit dem Kriegsministerium ist“.

„So funktioniert das System nicht“, erklärte Mulligan und fügte hinzu: „Die Einsatzarchitektur ist wichtiger als der Wortlaut des Vertrags. Indem wir unseren Einsatz auf Cloud-APIs beschränken, können wir verhindern, dass unsere Modelle direkt in Waffen, Sensoren oder andere operative Hardware integriert werden.“

Altman ging auch auf Fragen zur Vereinbarung auf X ein und räumte ein, dass sie übereilt war und erhebliche Gegenreaktionen gegen OpenAI hervorgerufen hat – so sehr, dass Claude von Anthropic an diesem Samstag ChatGPT von OpenAI im Apple App Store überholt hat. Warum also weitermachen?

„Wir wollten wirklich die Spannungen abbauen und waren überzeugt, dass die vorgeschlagene Vereinbarung von Vorteil war“, sagte Altman. „Wenn wir Recht haben und dies zu weniger Reibungen zwischen dem Kriegsministerium und der Industrie führt, werden wir als visionär angesehen werden – als ein Unternehmen, das erhebliche Schwierigkeiten auf sich genommen hat, um den Sektor zu unterstützen. Wenn nicht, werden wir weiterhin dafür kritisiert werden, dass wir voreilig und ohne die gebotene Sorgfalt gehandelt haben.“