Eric Schmidt se opone al Proyecto Agi Manhattan

En un documento de política publicado el miércoles, el exdirector ejecutivo de Google, Eric Schmidt, junto con el director ejecutivo de Scale AI, Alexandr Wang, y el director del Centro para la Seguridad de la IA, Dan Hendrycks, desaconsejaron que Estados Unidos lance una iniciativa al estilo del Proyecto Manhattan para desarrollar sistemas de IA con inteligencia "sobrehumana", comúnmente conocida como AGI.

Titulado "Estrategia de Superinteligencia", el documento advierte que un esfuerzo de Estados Unidos para monopolizar la IA superinteligente podría provocar una fuerte respuesta de China, posiblemente en forma de un ciberataque, lo que podría perturbar las relaciones globales.

Los coautores argumentan: "Un Proyecto Manhattan para AGI asume que los rivales aceptarán un desequilibrio duradero o un omnicidio en lugar de actuar para prevenirlo. Lo que comienza como un impulso por una superarma y el control global arriesga provocar contramedidas hostiles y aumentar las tensiones, socavando así la estabilidad que la estrategia pretende asegurar."

Este documento, redactado por tres figuras clave del sector de la IA estadounidense, llega poco después de que una comisión del Congreso de Estados Unidos sugiriera una iniciativa al estilo del "Proyecto Manhattan" para financiar el desarrollo de AGI, haciendo paralelos con el proyecto de la bomba atómica de Estados Unidos en la década de 1940. El secretario de Energía de Estados Unidos, Chris Wright, declaró recientemente que Estados Unidos está "al comienzo de un nuevo Proyecto Manhattan" en IA, hablando en un sitio de supercomputadoras junto al cofundador de OpenAI, Greg Brockman.

El documento de Estrategia de Superinteligencia cuestiona el reciente impulso de varios líderes políticos e industriales estadounidenses que creen que un programa de AGI respaldado por el gobierno es la mejor manera de mantenerse al día con China.

Schmidt, Wang y Hendrycks ven a Estados Unidos en una situación similar a un enfrentamiento por AGI, comparable al concepto de destrucción mutua asegurada. Así como las naciones evitan monopolizar las armas nucleares para prevenir ataques preventivos, los autores sugieren que Estados Unidos debería ser cauteloso al apresurarse a dominar sistemas de IA altamente avanzados.

Aunque comparar la IA con armas nucleares podría parecer exagerado, los líderes globales ya consideran la IA como un activo militar crucial. El Pentágono ha señalado que la IA está acelerando la cadena de eliminación militar.

Los autores introducen la idea de Mal funcionamiento Mutuo Asegurado de IA (MAIM), donde los gobiernos podrían tomar medidas preventivas para desactivar proyectos de IA amenazantes en lugar de esperar a que los adversarios conviertan AGI en un arma.

Schmidt, Wang y Hendrycks recomiendan que Estados Unidos cambie su enfoque de "ganar la carrera hacia la superinteligencia" a desarrollar métodos para disuadir a otros países de crear IA superinteligente. Sugieren que el gobierno debería "ampliar su arsenal de ciberataques para desactivar proyectos de IA amenazantes" controlados por otras naciones y restringir el acceso de los adversarios a chips de IA avanzados y modelos de código abierto.

El documento destaca una división en la comunidad de políticas de IA entre los "catastrofistas", que creen que los resultados catastróficos de la IA son inevitables y abogan por frenar el progreso de la IA, y los "avestruces", que impulsan la aceleración del desarrollo de la IA y esperan lo mejor.

Los autores proponen un tercer camino: un enfoque cauteloso para el desarrollo de AGI que enfatiza las estrategias defensivas.

Esta postura es particularmente notable por parte de Schmidt, quien previamente ha enfatizado la necesidad de que Estados Unidos compita agresivamente con China en el desarrollo de IA. Hace apenas unos meses, Schmidt escribió un artículo de opinión afirmando que DeepSeek marcó un momento pivotal en la carrera de IA entre Estados Unidos y China.

A pesar de la determinación de la administración Trump de avanzar en el desarrollo de la IA en Estados Unidos, los coautores nos recuerdan que las decisiones de Estados Unidos sobre AGI tienen implicaciones globales.

Mientras el mundo observa el impulso de Estados Unidos hacia la IA, Schmidt y sus coautores sugieren que una estrategia más defensiva podría ser la elección más sabia.