Эрик Шмидт выступает против проекта Agi Manhattan

В документе, опубликованном в среду, бывший генеральный директор Google Эрик Шмидт, вместе с генеральным директором Scale AI Александром Ваном и директором Центра безопасности ИИ Дэном Хендриксом, предостерегли США от запуска инициативы в стиле Манхэттенского проекта для разработки систем ИИ с «сверхчеловеческим» интеллектом, широко известным как AGI.

Названный «Стратегия сверхинтеллекта», документ предупреждает, что попытка США монополизировать сверхинтеллектуальный ИИ может спровоцировать решительный ответ со стороны Китая, возможно, в виде кибератаки, что может нарушить глобальные отношения.

Соавторы утверждают: «Манхэттенский проект для AGI предполагает, что конкуренты смирятся с постоянным дисбалансом или уничтожением, вместо того чтобы предпринять меры для его предотвращения. То, что начинается как стремление к супероружию и глобальному контролю, рискует вызвать враждебные контрмеры и эскалацию напряженности, подрывая тем самым стабильность, которую стратегия якобы должна обеспечить».

Этот документ, написанный тремя ключевыми фигурами американского сектора ИИ, появился вскоре после того, как конгрессная комиссия США предложила инициативу в стиле «Манхэттенского проекта» для финансирования разработки AGI, проводя параллели с проектом США по созданию атомной бомбы в 1940-х годах. Министр энергетики США Крис Райт недавно заявил, что США находятся «в начале нового Манхэттенского проекта» в области ИИ, выступая на площадке суперкомпьютера вместе с сооснователем OpenAI Грегом Брокманом.

Документ «Стратегия сверхинтеллекта» бросает вызов недавнему стремлению ряда американских политических и промышленных лидеров, которые считают, что поддерживаемая государством программа AGI — лучший способ не отставать от Китая.

Шмидт, Ван и Хендрик видят США в ситуации, напоминающей противостояние из-за AGI, схожее с концепцией взаимного гарантированного уничтожения. Подобно тому, как нации избегают монополизации ядерного оружия, чтобы предотвратить упреждающие удары, авторы предлагают США быть осторожными в стремлении доминировать над высокоразвитыми системами ИИ.

Хотя сравнение ИИ с ядерным оружием может показаться преувеличенным, мировые лидеры уже рассматривают ИИ как ключевой военный актив. Пентагон отметил, что ИИ ускоряет военную цепочку уничтожения.

Авторы вводят концепцию Взаимного Гарантированного Сбоя ИИ (MAIM), при которой правительства могут предпринять упреждающие действия для отключения угрожающих проектов ИИ, вместо того чтобы ждать, пока противники вооружат AGI.

Шмидт, Ван и Хендрик рекомендуют США сместить акцент с «победы в гонке за сверхинтеллект» на разработку методов сдерживания других стран от создания сверхинтеллектуального ИИ. Они предлагают правительству «расширить арсенал кибератак для отключения угрожающих проектов ИИ», контролируемых другими странами, и ограничить доступ противников к передовым чипам ИИ и моделям с открытым исходным кодом.

Документ подчеркивает раскол в сообществе по политике ИИ между «пессимистами», которые считают катастрофические последствия ИИ неизбежными и выступают за замедление прогресса ИИ, и «страусами», которые настаивают на ускорении разработки ИИ и надеются на лучшее.

Авторы предлагают третий путь: осторожный подход к разработке AGI, который делает упор на оборонительные стратегии.

Эта позиция особенно примечательна со стороны Шмидта, который ранее подчеркивал необходимость для США агрессивно конкурировать с Китаем в разработке ИИ. Всего несколько месяцев назад Шмидт написал статью, в которой утверждал, что DeepSeek стал поворотным моментом в гонке ИИ между США и Китаем.

Несмотря на решимость администрации Трампа продвигать развитие ИИ в Америке, соавторы напоминают, что решения США по AGI имеют глобальные последствия.

Пока мир наблюдает за стремлением Америки в области ИИ, Шмидт и его соавторы предполагают, что более оборонительная стратегия может быть более мудрым выбором.