Eric Schmidt s'oppose au projet Agi Manhattan

# openai # China # agi

Dans un document de politique publié mercredi, l'ancien PDG de Google, Eric Schmidt, ainsi que le PDG de l'IA, Alexandr Wang et le directeur de la sécurité de l'IA, Dan Hendrycks, ont conseillé de lancer une initiative de style projet de Manhattan pour développer des systèmes d'IA avec une intelligence "surhumaine", communément appelée AGI. Intitulé «Stratégie de superintelligence», le document avertit qu'un effort américain pour monopoliser une IA Superintelligent pourrait provoquer une forte réponse de la Chine, peut-être sous la forme d'une cyberattaque, qui pourrait perturber les relations mondiales. Les co-auteurs soutiennent: "Un projet de Manhattan pour AGI suppose que les concurrents acquierteront un déséquilibre ou un omnicide durable plutôt que de se déplacer pour l'empêcher. Ce qui commence comme une poussée pour une super-arme et des risques de contrôle mondial provoquant des contre-mesures hostiles et une intensité de tensions, ce qui compromet la stratégie hostile à s'assurer." Cet article, écrit par trois personnalités clés du secteur américain de l'IA, arrive peu de temps après qu'une commission du Congrès américain a suggéré une initiative de style "Manhattan Project" pour financer le développement de l'AGI, établissant des parallèles avec le projet de bombe atomique américaine des années 40. Le secrétaire américain à l'énergie Chris Wright a récemment déclaré que les États-Unis étaient au "début d'un nouveau projet de Manhattan" sur l'IA, parlant sur un site de supercalculateur avec le cofondateur d'Openai, Greg Brockman, à ses côtés. Le document de la stratégie de superintelligence remet en question la récente poussée de plusieurs leaders américains de la politique et de l'industrie qui croient qu'un programme AGI soutenu par le gouvernement est le meilleur moyen de suivre la Chine. Schmidt, Wang et Hendrycks voient les États-Unis dans une situation semblable à une impasse sur AGI, similaire au concept de destruction mutuellement assurée. Tout comme les nations évitent de monopoliser les armes nucléaires pour éviter des frappes préventives, les auteurs suggèrent que les États-Unis devraient se méfier de se précipiter pour dominer les systèmes d'IA très avancés. Bien que la comparaison de l'IA aux armes nucléaires puisse sembler exagérée, les dirigeants mondiaux considèrent déjà l'IA comme un atout militaire crucial. Le Pentagone a noté que l'IA accélère la chaîne de mise à mort des militaires. Les auteurs introduisent l'idée d'un dysfonctionnement mutuel de l'IA (MAIM), où les gouvernements pourraient prendre des mesures préventives pour désactiver les projets d'IA menaçants plutôt que d'attendre que les adversaires d'armement AGI. Schmidt, Wang et Hendrycks recommandent que les États-Unis se concentrent de "remporter la course à la superintelligence" à des méthodes de développement pour dissuader d'autres pays de créer une IA superintelligente. Ils suggèrent que le gouvernement devrait "étendre son arsenal des cyberattaques pour désactiver les projets d'IA menaçants" contrôlés par d'autres nations et restreindre l'accès des adversaires à des puces d'IA avancées et des modèles open source. Le document met en évidence une scission dans la communauté des politiques de l'IA entre les «conteste», qui croient que les résultats catastrophiques de l'IA sont inévitables et défendaient le ralentissement des progrès de l'IA, et les «autruches», qui poussent à accélérer le développement de l'IA et l'espoir pour le meilleur. Les auteurs proposent un troisième chemin: une approche prudente du développement AGI qui met l'accent sur les stratégies défensives. Cette position est particulièrement remarquable de Schmidt, qui a précédemment souligné la nécessité pour les États-Unis de rivaliser agressivement avec la Chine dans le développement de l'IA. Il y a quelques mois à peine, Schmidt a écrit un éditorial déclarant que Deepseek a marqué un moment central dans la course aux États-Unis-Chine. Malgré la détermination de l'administration Trump à faire progresser le développement de l'IA de l'Amérique, les co-auteurs nous rappellent que les décisions américaines sur AGI ont des implications mondiales. Comme le monde observe la poussée de l'Amérique dans l'IA, Schmidt et ses co-auteurs suggèrent qu'une stratégie plus défensive pourrait être le choix plus sage.

Article connexe

commentaires (20)