Eric Schmidt lehnt das Agi Manhattan -Projekt ab

# openai # China # agi

In einem am Mittwoch veröffentlichten Richtlinienpapier, der ehemalige Google-CEO Eric Schmidt, zusammen mit dem CEO Alexandr Wang und dem Center for AI-Sicherheitsdirektor Dan Hendrycks, der sich gegen die US-amerikanischen Einführung einer Initiative im Projektstil in Manhattan zur Entwicklung von AI-Systemen mit "übermenschlichen" Intelligenz, die allgemein als AGI bezeichnet wurden, geraten wurde. Mit dem Titel "Superintelligence -Strategie" warnt die Zeitung, dass ein US -amerikanischer Bemühungen zur Monopolisierung der Superintelligent -KI eine starke Reaktion aus China in Form eines Cyberangriffs provozieren könnte, was die globalen Beziehungen stören könnte. Die Co-Autoren argumentieren: "Ein Manhattan-Projekt für AGI geht davon aus, dass Rivalen ein dauerhaftes Ungleichgewicht oder einen Omnizid, anstatt sich zu verhindern, um dies zu verhindern. Was beginnt als Vorstoß für eine Superwaffe und globale Kontrollrisiken, die feindliche Gegenmaßnahmen veranlassen und die Strategie zu eskalieren, um die Strategie zu untergraben. Dieses Papier, das von drei wichtigen Zahlen im amerikanischen KI-Sektor geschrieben wurde, kommt kurz nachdem eine US-Kongresskommission eine Initiative "Manhattan Project-Art" vorgeschlagen hat, um die AGI-Entwicklung zu finanzieren, die Parallelen zum US-Atombombenprojekt der 1940er Jahre entspricht. Der US-Energieminister Chris Wright erklärte kürzlich die USA zum "Beginn eines neuen Manhattan-Projekts" auf KI und sprach auf einem Supercomputer-Standort mit OpenAI-Mitbegründer Greg Brockman an seiner Seite. Die Superintelligence Strategy Paper stellt den jüngsten Vorstoß mehrerer amerikanischer Politik- und Branchenführer in Frage, die glauben, dass ein von der Regierung unterstütztes AGI-Programm der beste Weg ist, um mit China Schritt zu halten. Schmidt, Wang und Hendrycks sehen die USA in einer Situation, die einer Pattsituation gegenüber AGI ähnelt, ähnlich dem Konzept der gegenseitig gesicherten Zerstörung. So wie Nationen die Monopolisierung von Atomwaffen vermeiden, um präventive Streiks zu verhindern, schlagen die Autoren vor, dass die USA vorsichtig sein sollten, um hoch fortgeschrittene KI -Systeme zu dominieren. Während der Vergleich von KI mit Atomwaffen übertrieben scheint, sehen die globalen Führungskräfte KI bereits als entscheidendes militärisches Gut. Das Pentagon hat festgestellt, dass KI die Kill -Kette des Militärs beschleunigt. Die Autoren stellen die Idee der gegenseitigen versicherten KI -Fehlfunktion (MAIM) vor, bei der Regierungen möglicherweise präventive Maßnahmen ergreifen, um bedrohliche KI -Projekte zu deaktivieren, anstatt darauf zu warten, dass die Gegner AGI waffen. Schmidt, Wang und Hendrycks empfehlen, dass die USA ihren Fokus vom "Gewinn des Rennens bis zur Superintelligence" über die Entwicklung von Methoden verlagern, um andere Länder von der Schaffung von Superintelligent -KI abzuhalten. Sie schlagen vor, dass die Regierung "ihr Arsenal an Cyberangriffe erweitern sollte, um bedrohliche KI-Projekte zu deaktivieren", die von anderen Nationen kontrolliert werden, und den Zugang der Gegner auf fortschrittliche AI-Chips und Open-Source-Modelle einschränken. Das Papier beleuchtet eine Spaltung der KI -Politikgemeinschaft zwischen den "Doomern", die glauben, dass katastrophale KI -Ergebnisse unvermeidlich sind und sich für die Verlangsamung der KI -Fortschritte befassen, und die "Strauße", die auf die Beschleunigung der KI -Entwicklung und die Hoffnung auf die Besten drängen. Die Autoren schlagen einen dritten Weg vor: einen vorsichtigen Ansatz zur AGI -Entwicklung, der die Verteidigungsstrategien hervorhebt. Diese Haltung ist besonders bemerkenswert von Schmidt, der zuvor die Notwendigkeit betont hat, dass die USA in der KI -Entwicklung aggressiv mit China konkurrieren müssen. Vor wenigen Monaten schrieb Schmidt eine Op-Ed, dass Deepseek einen entscheidenden Moment im AI-Rennen der USA-China markierte. Trotz der Entschlossenheit der Trump-Administration, Amerikas KI-Entwicklung voranzutreiben, erinnern die Mitautoren uns daran, dass die US-Entscheidungen über AGI globale Auswirkungen haben. Als die Welt Amerikas Vorstoß in die KI beobachtet, schlagen Schmidt und seine Co-Autoren vor, dass eine defensivere Strategie die klügere Wahl sein könnte.

Verwandter Artikel

Kommentare (20)