Eric Schmidt se opone al Proyecto Agi Manhattan

# openai # China # agi

En un documento de política publicado el miércoles, el ex CEO de Google, Eric Schmidt, junto con el CEO de AI de Scale, Alexandr Wang, y el Director de Seguridad del Centro para la IA, Dan Hendrycks, aconsejaron contra los Estados Unidos que lanzaron una iniciativa de estilo de proyecto Manhattan para desarrollar sistemas de IA con inteligencia "sobrehumana", comúnmente referida a AGI. Titulado "Estrategia de superinteligencia", el documento advierte que un esfuerzo de los Estados Unidos para monopolizar la IA superinteligente podría provocar una fuerte respuesta de China, posiblemente en forma de ciberataque, que podría interrumpir las relaciones globales. Los coautores argumentan: "Un proyecto de Manhattan para AGI asume que los rivales adquirirán un desequilibrio duradero u omnicuro en lugar de moverse para evitarlo. Lo que comienza como un impulso para una supervisión y el control global se arriesga a las contramedidas hostiles y las tensiones recalentadoras, lo que se mueve a la mínimo de la estabilidad de la estrategia para asegurar". Este documento, escrito por tres figuras clave en el sector de IA estadounidense, llega poco después de que una comisión del Congreso de los Estados Unidos sugirió una iniciativa "estilo del Proyecto Manhattan" para financiar el desarrollo de AGI, recurriendo al proyecto de bomba atómica de los Estados Unidos de la década de 1940. El Secretario de Energía de los Estados Unidos, Chris Wright, declaró recientemente que Estados Unidos estaba en "el comienzo de un nuevo proyecto de Manhattan" en AI, hablando en un sitio de supercomputador con el cofundador de Operai Greg Brockman a su lado. El documento de estrategia de superinteligencia desafía el reciente impulso de varios líderes estadounidenses de políticas e industrias que creen que un programa AGI respaldado por el gobierno es la mejor manera de mantenerse al día con China. Schmidt, Wang y Hendrycks ven a los EE. UU. En una situación similar a un enfrentamiento sobre AGI, similar al concepto de destrucción mutuamente asegurada. Así como las naciones evitan monopolizar armas nucleares para evitar ataques preventivos, los autores sugieren que los EE. UU. Deberían tener cuidado de apresurarse para dominar los sistemas de IA altamente avanzados. Si bien comparar la IA con las armas nucleares puede parecer exagerada, los líderes globales ya ven la IA como un activo militar crucial. El Pentágono ha notado que AI está acelerando la cadena de matar del ejército. Los autores introducen la idea del mal funcionamiento de la IA asegurada por mutuo (MAIM), donde los gobiernos podrían tomar medidas preventivas para deshabilitar los proyectos de IA amenazantes en lugar de esperar a que los adversarios armen AGI. Schmidt, Wang y Hendrycks recomiendan que Estados Unidos cambie su enfoque de "ganar la carrera a la superinteligencia" a desarrollar métodos para disuadir a otros países de crear una IA superinteligente. Sugieren que el gobierno debería "expandir su arsenal de ataques cibernéticos para deshabilitar los proyectos de IA amenazantes" controlados por otras naciones y restringir el acceso de los adversarios a chips de IA avanzados y modelos de código abierto. El documento destaca una división en la comunidad de políticas de IA entre los "doomers", que creen que los resultados catastróficos de la IA son inevitables y abogan por desacelerar el progreso de la IA, y las "avestruces", que presionan para acelerar el desarrollo de la IA y la esperanza de lo mejor. Los autores proponen un tercer camino: un enfoque cauteloso para el desarrollo de AGI que enfatiza las estrategias defensivas. Esta postura es particularmente notable por Schmidt, quien previamente ha enfatizado la necesidad de que Estados Unidos compite agresivamente con China en el desarrollo de la IA. Hace solo unos meses, Schmidt escribió un artículo de opinión que indicaba que Deepseek marcó un momento crucial en la carrera de IA de US-China. A pesar de la determinación de la administración Trump de avanzar en el desarrollo de la IA de Estados Unidos, los coautores nos recuerdan que las decisiones estadounidenses sobre AGI tienen implicaciones globales. Mientras el mundo observa el impulso de Estados Unidos hacia la IA, Schmidt y sus coautores sugieren que una estrategia más defensiva podría ser la elección más sabia.

Artículo relacionado

comentario (20)