Eric Schmidt lehnt das Agi Manhattan -Projekt ab

In einem am Mittwoch veröffentlichten Strategiepapier rieten der ehemalige Google-CEO Eric Schmidt, Scale AI-CEO Alexandr Wang und der Direktor des Center for AI Safety, Dan Hendrycks, den USA davon ab, eine Initiative im Stil des Manhattan-Projekts zu starten, um KI-Systeme mit „übermenschlicher“ Intelligenz, allgemein als AGI bezeichnet, zu entwickeln.

Das Papier mit dem Titel „Superintelligenz-Strategie“ warnt davor, dass ein US-amerikanischer Versuch, superintelligente KI zu monopolisieren, eine starke Reaktion Chinas hervorrufen könnte, möglicherweise in Form eines Cyberangriffs, der die globalen Beziehungen stören könnte.

Die Mitautoren argumentieren: „Ein Manhattan-Projekt für AGI setzt voraus, dass Rivalen ein dauerhaftes Ungleichgewicht oder einen Omnizid akzeptieren, anstatt Maßnahmen zu ergreifen, um dies zu verhindern. Was als Streben nach einer Superwaffe und globaler Kontrolle beginnt, riskiert feindliche Gegenmaßnahmen und eskalierende Spannungen, wodurch die Stabilität untergraben wird, die die Strategie angeblich sichern soll.“

Dieses Papier, verfasst von drei Schlüsselfiguren der amerikanischen KI-Branche, erscheint kurz nachdem eine US-Kongresskommission eine Initiative im Stil des Manhattan-Projekts vorschlug, um die AGI-Entwicklung zu finanzieren, in Anlehnung an das US-Atomwaffenprojekt der 1940er Jahre. Der US-Energieminister Chris Wright erklärte kürzlich, die USA stünden „am Beginn eines neuen Manhattan-Projekts“ im Bereich KI, während er an einem Supercomputer-Standort neben OpenAI-Mitgründer Greg Brockman sprach.

Das Superintelligenz-Strategie-Papier stellt die jüngste Initiative mehrerer amerikanischer Politik- und Industrieführer infrage, die glauben, ein von der Regierung unterstütztes AGI-Programm sei der beste Weg, um mit China Schritt zu halten.

Schmidt, Wang und Hendrycks sehen die USA in einer Situation, die einem Patt um AGI ähnelt, vergleichbar mit dem Konzept der gegenseitig gesicherten Zerstörung. So wie Nationen vermeiden, Atomwaffen zu monopolisieren, um Präventivschläge zu verhindern, schlagen die Autoren vor, dass die USA vorsichtig sein sollten, wenn es darum geht, hochentwickelte KI-Systeme zu dominieren.

Während der Vergleich von KI mit Atomwaffen übertrieben erscheinen mag, betrachten globale Führer KI bereits als entscheidendes militärisches Gut. Das Pentagon hat festgestellt, dass KI die Tötungskette des Militärs beschleunigt.

Die Autoren führen die Idee der gegenseitig gesicherten KI-Fehlfunktion (MAIM) ein, bei der Regierungen präventiv handeln könnten, um bedrohliche KI-Projekte zu deaktivieren, anstatt darauf zu warten, dass Gegner AGI weaponisieren.

Schmidt, Wang und Hendrycks empfehlen, dass die USA ihren Fokus vom „Gewinnen des Rennens um Superintelligenz“ auf die Entwicklung von Methoden verlagern sollten, um andere Länder davon abzuhalten, superintelligente KI zu schaffen. Sie schlagen vor, dass die Regierung ihr „Arsenal an Cyberangriffen erweitern sollte, um bedrohliche KI-Projekte“ anderer Nationen zu deaktivieren und den Zugang von Gegnern zu fortschrittlichen KI-Chips und Open-Source-Modellen einschränken sollte.

Das Papier hebt eine Spaltung in der KI-Politikgemeinschaft zwischen den „Untergangspropheten“ hervor, die glauben, dass katastrophale KI-Ergebnisse unvermeidlich sind und für eine Verlangsamung des KI-Fortschritts plädieren, und den „Straußen“, die den KI-Fortschritt beschleunigen und auf das Beste hoffen.

Die Autoren schlagen einen dritten Weg vor: einen vorsichtigen Ansatz für die AGI-Entwicklung, der auf defensive Strategien setzt.

Diese Haltung ist besonders bemerkenswert von Schmidt, der zuvor die Notwendigkeit betonte, dass die USA aggressiv mit China im Bereich der KI-Entwicklung konkurrieren müssen. Noch vor wenigen Monaten schrieb Schmidt einen Gastbeitrag, in dem er erklärte, dass DeepSeek einen entscheidenden Moment im KI-Wettlauf zwischen den USA und China markiere.

Trotz der Entschlossenheit der Trump-Administration, die KI-Entwicklung Amerikas voranzutreiben, erinnern die Mitautoren daran, dass die Entscheidungen der USA bezüglich AGI globale Auswirkungen haben.

Während die Welt die Bemühungen Amerikas im Bereich KI beobachtet, schlagen Schmidt und seine Mitautoren vor, dass eine defensivere Strategie die klügere Wahl sein könnte.