Эрик Шмидт выступает против проекта Agi Manhattan

В документе, опубликованном в среду, бывший генеральный директор Google Эрик Шмидт, вместе с генеральным директором Scale AI Александром Ваном и директором Центра безопасности ИИ Дэном Хендриксом, предостерегли США от запуска инициативы в стиле Манхэттенского проекта для разработки систем ИИ с «сверхчеловеческим» интеллектом, широко известным как AGI.
Названный «Стратегия сверхинтеллекта», документ предупреждает, что попытка США монополизировать сверхинтеллектуальный ИИ может спровоцировать решительный ответ со стороны Китая, возможно, в виде кибератаки, что может нарушить глобальные отношения.
Соавторы утверждают: «Манхэттенский проект для AGI предполагает, что конкуренты смирятся с постоянным дисбалансом или уничтожением, вместо того чтобы предпринять меры для его предотвращения. То, что начинается как стремление к супероружию и глобальному контролю, рискует вызвать враждебные контрмеры и эскалацию напряженности, подрывая тем самым стабильность, которую стратегия якобы должна обеспечить».
Этот документ, написанный тремя ключевыми фигурами американского сектора ИИ, появился вскоре после того, как конгрессная комиссия США предложила инициативу в стиле «Манхэттенского проекта» для финансирования разработки AGI, проводя параллели с проектом США по созданию атомной бомбы в 1940-х годах. Министр энергетики США Крис Райт недавно заявил, что США находятся «в начале нового Манхэттенского проекта» в области ИИ, выступая на площадке суперкомпьютера вместе с сооснователем OpenAI Грегом Брокманом.
Документ «Стратегия сверхинтеллекта» бросает вызов недавнему стремлению ряда американских политических и промышленных лидеров, которые считают, что поддерживаемая государством программа AGI — лучший способ не отставать от Китая.
Шмидт, Ван и Хендрик видят США в ситуации, напоминающей противостояние из-за AGI, схожее с концепцией взаимного гарантированного уничтожения. Подобно тому, как нации избегают монополизации ядерного оружия, чтобы предотвратить упреждающие удары, авторы предлагают США быть осторожными в стремлении доминировать над высокоразвитыми системами ИИ.
Хотя сравнение ИИ с ядерным оружием может показаться преувеличенным, мировые лидеры уже рассматривают ИИ как ключевой военный актив. Пентагон отметил, что ИИ ускоряет военную цепочку уничтожения.
Авторы вводят концепцию Взаимного Гарантированного Сбоя ИИ (MAIM), при которой правительства могут предпринять упреждающие действия для отключения угрожающих проектов ИИ, вместо того чтобы ждать, пока противники вооружат AGI.
Шмидт, Ван и Хендрик рекомендуют США сместить акцент с «победы в гонке за сверхинтеллект» на разработку методов сдерживания других стран от создания сверхинтеллектуального ИИ. Они предлагают правительству «расширить арсенал кибератак для отключения угрожающих проектов ИИ», контролируемых другими странами, и ограничить доступ противников к передовым чипам ИИ и моделям с открытым исходным кодом.
Документ подчеркивает раскол в сообществе по политике ИИ между «пессимистами», которые считают катастрофические последствия ИИ неизбежными и выступают за замедление прогресса ИИ, и «страусами», которые настаивают на ускорении разработки ИИ и надеются на лучшее.
Авторы предлагают третий путь: осторожный подход к разработке AGI, который делает упор на оборонительные стратегии.
Эта позиция особенно примечательна со стороны Шмидта, который ранее подчеркивал необходимость для США агрессивно конкурировать с Китаем в разработке ИИ. Всего несколько месяцев назад Шмидт написал статью, в которой утверждал, что DeepSeek стал поворотным моментом в гонке ИИ между США и Китаем.
Несмотря на решимость администрации Трампа продвигать развитие ИИ в Америке, соавторы напоминают, что решения США по AGI имеют глобальные последствия.
Пока мир наблюдает за стремлением Америки в области ИИ, Шмидт и его соавторы предполагают, что более оборонительная стратегия может быть более мудрым выбором.
Связанная статья
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Dogotix, принадлежащая XPeng Motors, привлекла финансирование в размере 900 млн долларов
Подразделение Dogotix компании XPeng занимается разработкой гуманоидного робота IRON. Источник: XPengСледуя примеру других крупных мировых автопроизводителей, компания XPeng Motors расширяет свою деят
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Рекомендации по связанным специальным темам
Комментарии (33)
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

В документе, опубликованном в среду, бывший генеральный директор Google Эрик Шмидт, вместе с генеральным директором Scale AI Александром Ваном и директором Центра безопасности ИИ Дэном Хендриксом, предостерегли США от запуска инициативы в стиле Манхэттенского проекта для разработки систем ИИ с «сверхчеловеческим» интеллектом, широко известным как AGI.
Названный «Стратегия сверхинтеллекта», документ предупреждает, что попытка США монополизировать сверхинтеллектуальный ИИ может спровоцировать решительный ответ со стороны Китая, возможно, в виде кибератаки, что может нарушить глобальные отношения.
Соавторы утверждают: «Манхэттенский проект для AGI предполагает, что конкуренты смирятся с постоянным дисбалансом или уничтожением, вместо того чтобы предпринять меры для его предотвращения. То, что начинается как стремление к супероружию и глобальному контролю, рискует вызвать враждебные контрмеры и эскалацию напряженности, подрывая тем самым стабильность, которую стратегия якобы должна обеспечить».
Этот документ, написанный тремя ключевыми фигурами американского сектора ИИ, появился вскоре после того, как конгрессная комиссия США предложила инициативу в стиле «Манхэттенского проекта» для финансирования разработки AGI, проводя параллели с проектом США по созданию атомной бомбы в 1940-х годах. Министр энергетики США Крис Райт недавно заявил, что США находятся «в начале нового Манхэттенского проекта» в области ИИ, выступая на площадке суперкомпьютера вместе с сооснователем OpenAI Грегом Брокманом.
Документ «Стратегия сверхинтеллекта» бросает вызов недавнему стремлению ряда американских политических и промышленных лидеров, которые считают, что поддерживаемая государством программа AGI — лучший способ не отставать от Китая.
Шмидт, Ван и Хендрик видят США в ситуации, напоминающей противостояние из-за AGI, схожее с концепцией взаимного гарантированного уничтожения. Подобно тому, как нации избегают монополизации ядерного оружия, чтобы предотвратить упреждающие удары, авторы предлагают США быть осторожными в стремлении доминировать над высокоразвитыми системами ИИ.
Хотя сравнение ИИ с ядерным оружием может показаться преувеличенным, мировые лидеры уже рассматривают ИИ как ключевой военный актив. Пентагон отметил, что ИИ ускоряет военную цепочку уничтожения.
Авторы вводят концепцию Взаимного Гарантированного Сбоя ИИ (MAIM), при которой правительства могут предпринять упреждающие действия для отключения угрожающих проектов ИИ, вместо того чтобы ждать, пока противники вооружат AGI.
Шмидт, Ван и Хендрик рекомендуют США сместить акцент с «победы в гонке за сверхинтеллект» на разработку методов сдерживания других стран от создания сверхинтеллектуального ИИ. Они предлагают правительству «расширить арсенал кибератак для отключения угрожающих проектов ИИ», контролируемых другими странами, и ограничить доступ противников к передовым чипам ИИ и моделям с открытым исходным кодом.
Документ подчеркивает раскол в сообществе по политике ИИ между «пессимистами», которые считают катастрофические последствия ИИ неизбежными и выступают за замедление прогресса ИИ, и «страусами», которые настаивают на ускорении разработки ИИ и надеются на лучшее.
Авторы предлагают третий путь: осторожный подход к разработке AGI, который делает упор на оборонительные стратегии.
Эта позиция особенно примечательна со стороны Шмидта, который ранее подчеркивал необходимость для США агрессивно конкурировать с Китаем в разработке ИИ. Всего несколько месяцев назад Шмидт написал статью, в которой утверждал, что DeepSeek стал поворотным моментом в гонке ИИ между США и Китаем.
Несмотря на решимость администрации Трампа продвигать развитие ИИ в Америке, соавторы напоминают, что решения США по AGI имеют глобальные последствия.
Пока мир наблюдает за стремлением Америки в области ИИ, Шмидт и его соавторы предполагают, что более оборонительная стратегия может быть более мудрым выбором.
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Dogotix, принадлежащая XPeng Motors, привлекла финансирование в размере 900 млн долларов
Подразделение Dogotix компании XPeng занимается разработкой гуманоидного робота IRON. Источник: XPengСледуя примеру других крупных мировых автопроизводителей, компания XPeng Motors расширяет свою деят
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





Дом






