Heim
OpenAI und das Pentagon schließen eine Vereinbarung mit Altman, in der Maßnahmen zur Sicherheit von KI zugesichert werden

Nachdem Anthropic in eine Sackgasse geraten war und vom US-Verteidigungsministerium (DoD, während der Trump-Regierung früher als „Kriegsministerium“ bezeichnet) aufgrund grundlegender Sicherheitsbedenken blockiert worden war, handelte OpenAI zügig. Sein CEO, Sam Altman, gab am Freitagabend bekannt, dass OpenAI eine Vereinbarung mit dem Pentagon abgeschlossen habe. Diese Vereinbarung erlaubt den Einsatz seiner KI-Modelle in den geheimen Netzwerken des DoD.
Diese Partnerschaft entsteht in einer besonders heiklen Phase. Anthropic war zuvor von Trump als „linke Spinner“ bezeichnet worden, weil das Unternehmen sich geweigert hatte, Beschränkungen für „massive inländische Überwachung“ und „vollautonome Waffensysteme“ aufzuheben, was zu seinem Ausschluss aus der nationalen Lieferkette führte.
Von Altman hervorgehobene Kooperationsgrundsätze:
Einhaltung der Grundwerte: Auf der sozialen Plattform X erklärte Altman, dass die Vereinbarung von OpenAI ausdrücklich zwei entscheidende Sicherheitsgrundsätze bekräftigt: ein Verbot der Nutzung für die Massenüberwachung im Inland und die Anforderung, dass jegliche Anwendung von Gewalt – einschließlich autonomer Waffen – unter sinnvoller menschlicher Aufsicht und Rechenschaftspflicht bleibt.
Integrierte technische Sicherheitsvorkehrungen: OpenAI wird maßgeschneiderte technische Sicherheitsvorkehrungen entwickeln, um sicherzustellen, dass das Modell wie vorgesehen funktioniert. Das Unternehmen beabsichtigt zudem, Ingenieure im Pentagon einzusetzen, um die Implementierung des Modells und die laufende Sicherheitsüberwachung zu unterstützen.
Beibehaltung des Ablehnungsrechts: Bei einer internen Besprechung gab Altman bekannt, dass die Regierung OpenAI die Befugnis erteilt hat, einen eigenen „Security Stack“ zu implementieren. Sollte das Modell die Ausführung einer angeforderten Aufgabe verweigern, wird die Regierung das Unternehmen nicht zwingen, seine Kernlogik zu ändern.
Altman forderte das Verteidigungsministerium nachdrücklich auf, diese Bedingungen auf alle KI-Unternehmen auszuweiten, und äußerte die Hoffnung, dass vernünftige Vereinbarungen die Spannungen zwischen der Regierung und dem Technologiesektor abbauen könnten. Die Vereinbarung hat jedoch eine interne Debatte ausgelöst: Über 60 OpenAI-Mitarbeiter unterzeichneten diese Woche einen gemeinsamen Brief, in dem sie die strengere Haltung von Anthropic gegenüber militärischen Anwendungen befürworteten.
Verwandter Artikel
Google will Investitionen in Anthropic aufstocken – Gesamtvolumen könnte bis zu 40 Milliarden Dollar betragen
Im rasanten Wettlauf um die KI gehen die großen Tech-Konzerne immer mutigere Schritte. Jüngsten Berichten zufolge plant Google, bis zu 10 Milliarden Dollar in das KI-Startup Anthropic zu investieren –
Die kostenlose Open-Source-KI-Schach-Engine „Maia 3“ wurde veröffentlicht, um das menschliche Spiel zu verbessern
Das Maia-Chess-Team hat eine neue Open-Source-Schach-Engine namens Maia 3 veröffentlicht, die auf der Grundlage von 250 Millionen echten Partien trainiert wurde. Sie erreicht eine Elo-Zahl von etwa 18
Der Boom bei KI-Risikokapital lässt den Umsatz in einer einzigen Saison die Billionen-Yuan-Marke überschreiten und löst eine neue Innovationswelle aus
Das weltweite Risikokapital im Bereich der künstlichen Intelligenz steigt rasant an. Im ersten Quartal dieses Jahres wurden fast 600 Finanzierungsrunden im Zusammenhang mit KI abgeschlossen, deren Ges
Empfehlungen zu verwandten Spezialthemen
Kommentare (1)

Nachdem Anthropic in eine Sackgasse geraten war und vom US-Verteidigungsministerium (DoD, während der Trump-Regierung früher als „Kriegsministerium“ bezeichnet) aufgrund grundlegender Sicherheitsbedenken blockiert worden war, handelte OpenAI zügig. Sein CEO, Sam Altman, gab am Freitagabend bekannt, dass OpenAI eine Vereinbarung mit dem Pentagon abgeschlossen habe. Diese Vereinbarung erlaubt den Einsatz seiner KI-Modelle in den geheimen Netzwerken des DoD.
Diese Partnerschaft entsteht in einer besonders heiklen Phase. Anthropic war zuvor von Trump als „linke Spinner“ bezeichnet worden, weil das Unternehmen sich geweigert hatte, Beschränkungen für „massive inländische Überwachung“ und „vollautonome Waffensysteme“ aufzuheben, was zu seinem Ausschluss aus der nationalen Lieferkette führte.
Von Altman hervorgehobene Kooperationsgrundsätze:
Einhaltung der Grundwerte: Auf der sozialen Plattform X erklärte Altman, dass die Vereinbarung von OpenAI ausdrücklich zwei entscheidende Sicherheitsgrundsätze bekräftigt: ein Verbot der Nutzung für die Massenüberwachung im Inland und die Anforderung, dass jegliche Anwendung von Gewalt – einschließlich autonomer Waffen – unter sinnvoller menschlicher Aufsicht und Rechenschaftspflicht bleibt.
Integrierte technische Sicherheitsvorkehrungen: OpenAI wird maßgeschneiderte technische Sicherheitsvorkehrungen entwickeln, um sicherzustellen, dass das Modell wie vorgesehen funktioniert. Das Unternehmen beabsichtigt zudem, Ingenieure im Pentagon einzusetzen, um die Implementierung des Modells und die laufende Sicherheitsüberwachung zu unterstützen.
Beibehaltung des Ablehnungsrechts: Bei einer internen Besprechung gab Altman bekannt, dass die Regierung OpenAI die Befugnis erteilt hat, einen eigenen „Security Stack“ zu implementieren. Sollte das Modell die Ausführung einer angeforderten Aufgabe verweigern, wird die Regierung das Unternehmen nicht zwingen, seine Kernlogik zu ändern.
Altman forderte das Verteidigungsministerium nachdrücklich auf, diese Bedingungen auf alle KI-Unternehmen auszuweiten, und äußerte die Hoffnung, dass vernünftige Vereinbarungen die Spannungen zwischen der Regierung und dem Technologiesektor abbauen könnten. Die Vereinbarung hat jedoch eine interne Debatte ausgelöst: Über 60 OpenAI-Mitarbeiter unterzeichneten diese Woche einen gemeinsamen Brief, in dem sie die strengere Haltung von Anthropic gegenüber militärischen Anwendungen befürworteten.
Google will Investitionen in Anthropic aufstocken – Gesamtvolumen könnte bis zu 40 Milliarden Dollar betragen
Im rasanten Wettlauf um die KI gehen die großen Tech-Konzerne immer mutigere Schritte. Jüngsten Berichten zufolge plant Google, bis zu 10 Milliarden Dollar in das KI-Startup Anthropic zu investieren –
Der Boom bei KI-Risikokapital lässt den Umsatz in einer einzigen Saison die Billionen-Yuan-Marke überschreiten und löst eine neue Innovationswelle aus
Das weltweite Risikokapital im Bereich der künstlichen Intelligenz steigt rasant an. Im ersten Quartal dieses Jahres wurden fast 600 Finanzierungsrunden im Zusammenhang mit KI abgeschlossen, deren Ges











