Эрик Шмидт выступает против проекта Agi Manhattan

# openai # China # agi

В политическом документе, опубликованном в среду, бывший генеральный директор Google Эрик Шмидт вместе с генеральным директором AI Александра Ванга и Центром по безопасности ИИ Дэн Хендриккс консультировал против инициативы в стиле проекта в Манхэттене для разработки систем искусственного интеллекта с «сверхчеловеческим» интеллектом, который обычно называют AGI. Названная «Стратегия суперинтелтинга», газета предупреждает, что усилия США по монополизированию ИИ суперинтелтинганута могут вызвать сильный отклик со стороны Китая, возможно, в форме кибератаки, что может нарушить глобальные отношения. Соавторы утверждают: «Манхэттенский проект для AGI предполагает, что соперники согласится с устойчивым дисбалансом или омницидом, а не перемещаются, чтобы предотвратить его. То, что начинается как стремление к супер-неделю и глобальному контролю, побуждает враждебные контрмеры и эскалация напряженности, тем самым подчиняя очень стабильность стратегии, чтобы обеспечить безопасность». Этот документ, написанный тремя ключевыми фигурами в американском секторе ИИ, прибывает вскоре после того, как комиссия Конгресса США предложила инициативу «в стиле проекта Манхэттена» для финансирования развития AGI, проведя параллели с проектом атомной бомбы США 1940-х годов. Министр энергетики США Крис Райт недавно объявил, что США будут в «начале нового проекта Манхэттена» на ИИ, выступая на сайте суперкомпьютеров с соучредителем OpenAI Грегом Брокманом рядом с ним. Стратегия суперинтеллигентности бросает вызов недавнему толчке нескольких американских лидеров политики и отрасли, которые считают, что программа AGI, поддерживаемая правительством, является лучшим способом не отставать от Китая. Шмидт, Ван и Хендрики видят США в ситуации, сходной к противостоянию над AGI, аналогичной концепции взаимно уверенного разрушения. Подобно тому, как страны избегают монополизирования ядерного оружия для предотвращения упреждающих ударов, авторы предполагают, что США должны опасаться спешить доминировать в высокопроизводительных системах ИИ. В то время как сравнение ИИ с ядерным оружием может показаться сверху, глобальные лидеры уже рассматривают ИИ как важнейший военный актив. Пентагон отметил, что ИИ ускоряет цепь убийств военных. Авторы вводят идею взаимного гарантированного неисправности ИИ (MAIM), где правительства могут предпринять упреждающие действия, чтобы отключить угрожающие проекты ИИ, а не ждать противников, чтобы вооружить AGI. Schmidt, Wang и Hendrycks рекомендуют, чтобы США переключали свое внимание с «победы в гонке к суперинтеллигенции» к разработке методов, чтобы удержать другие страны от создания Superintelligent AI. Они предполагают, что правительство должно «расширить свой арсенал кибератак, чтобы отключить угрожающие проекты искусственного интеллекта», контролируемые другими странами, и ограничить доступ противников к передовым чипам ИИ и моделями с открытым исходным кодом. В документе подчеркивается раскол в политическом сообществе ИИ между «Doomers», которые считают, что катастрофические результаты ИИ неизбежны и выступают за замедление прогресса ИИ, а «страусы», которые стремятся к ускорению развития ИИ и надежды на лучшее. Авторы предлагают третий путь: осторожный подход к развитию AGI, который подчеркивает защитные стратегии. Эта позиция особенно заслуживает внимания Шмидта, который ранее подчеркивал необходимость того, чтобы США агрессивно конкурировали с Китаем в развитии ИИ. Всего несколько месяцев назад Шмидт написал статью, заявив, что Deepseek отметил ключевой момент в гонке AI-китайского AI. Несмотря на решимость администрации Трампа продвигать развитие ИИ Америки, соавторы напоминают нам, что решения США на AGI имеют глобальные последствия. Поскольку мир наблюдает за толчком Америки в ИИ, Шмидт и его соавторы предполагают, что более оборонительная стратегия может быть более разумным выбором.

Связанная статья

Комментарии (20)