Eric Schmidt se opõe ao projeto AGI Manhattan

# openai # China # agi

Em um documento de política divulgado na quarta-feira, o ex-CEO do Google, Eric Schmidt, juntamente com o CEO da IA, Alexandr Wang e o Centro do Diretor de Segurança da AI, Dan Hendrycks, aconselhou contra os EUA lançar uma iniciativa de estilo de projeto de Manhattan para desenvolver sistemas de IA com inteligência "super-humana", comumente referida como AGI. Intitulado "Estratégia de Superintelligência", o artigo alerta que um esforço dos EUA para monopolizar a IA superinteligente poderia provocar uma forte resposta da China, possivelmente na forma de um ataque cibernético, o que pode atrapalhar as relações globais. Os co-autores argumentam: "Um projeto de Manhattan para a AGI assume que os rivais concordarão com um desequilíbrio duradouro ou omnicida, em vez de se mover para evitá-lo. O que começa como um impulso por uma superweapen e o controle global riscos que levam a uma estratégia hostil e a escala de tensões, que está submetindo a uma estabilidade da estratégia. Este artigo, escrito por três figuras-chave no setor americano de IA, chega logo após a Comissão do Congresso dos EUA sugerir uma iniciativa de "estilo de projeto de Manhattan" para financiar o desenvolvimento da AGI, atraindo paralelos ao projeto de bombas atômicas dos EUA da década de 1940. O secretário de Energia dos EUA, Chris Wright, declarou recentemente que os EUA estavam em "O início de um novo projeto de Manhattan" na IA, falando em um local do supercomputador com o co-fundador do Openai, Greg Brockman, ao seu lado. O artigo da Estratégia da Superintelligência desafia o recente impulso de vários líderes de políticas americanas e da indústria que acreditam que um programa AGI apoiado pelo governo é a melhor maneira de acompanhar a China. Schmidt, Wang e Hendrycks veem os EUA em uma situação semelhante a um impasse sobre a AGI, semelhante ao conceito de destruição mutuamente garantida. Assim como as nações evitam monopolizar armas nucleares para evitar ataques preventivos, os autores sugerem que os EUA devem ter cuidado ao correr para dominar sistemas de IA altamente avançados. Enquanto comparar a IA com armas nucleares pode parecer exagerado, os líderes globais já veem a IA como um ativo militar crucial. O Pentágono observou que a IA está acelerando a cadeia de mortes dos militares. Os autores introduzem a idéia de mau funcionamento da IA ​​Mutual garantido (MAIM), onde os governos podem tomar medidas preventivas para desativar os projetos ameaçadores de IA, em vez de esperar que os adversários armassem a AGI. Schmidt, Wang e Hendrycks recomendam que os EUA mudem seu foco de "vencer a corrida para a superinteligência" para o desenvolvimento de métodos para impedir outros países de criar a IA superinteligente. Eles sugerem que o governo deve "expandir seu arsenal de ataques cibernéticos para desativar projetos de IA ameaçadores" controlados por outras nações e restringir o acesso dos adversários a chips avançados de IA e modelos de código aberto. O artigo destaca uma divisão na comunidade de políticas de IA entre os "Doomers", que acreditam que os resultados catastróficos da IA ​​são inevitáveis ​​e defendem a desaceleração do progresso da IA ​​e dos "avestruzes", que pressionam por acelerar o desenvolvimento da IA ​​e a esperança do melhor. Os autores propõem um terceiro caminho: uma abordagem cautelosa ao desenvolvimento da AGI que enfatiza estratégias defensivas. Essa postura é particularmente digna de nota de Schmidt, que anteriormente enfatizou a necessidade de os EUA competirem agressivamente com a China no desenvolvimento da IA. Apenas alguns meses atrás, Schmidt escreveu um artigo informando que a Deepseek marcou um momento crucial na corrida EUA-China AI. Apesar da determinação do governo Trump em promover o desenvolvimento da IA ​​da América, os co-autores nos lembram que as decisões dos EUA sobre a AGI têm implicações globais. Enquanto o mundo observa o empurrão da América na IA, Schmidt e seus co-autores sugerem que uma estratégia mais defensiva pode ser a escolha mais sábia.

Artigo relacionado

Comentários (20)