Стратегия Трампа в области искусственного интеллекта: что ждет политику США в будущем

3 августа пять сенаторов-демократов призвали администрацию Трампа разъяснить подход к регулированию передовых моделей искусственного интеллекта, выразив обеспокоенность в связи с угрозой со стороны китайских систем искусственного интеллекта в сфере конкуренции. Фото: Getty

По сообщениям, после недавних киберинцидентов администрация Трампа проинформировала разработчиков ИИ о том, что модели с открытыми весами не будут подлежать добровольной оценке безопасности.

Во вторник представители Белого дома провели встречу с руководителями ведущих мировых компаний в сфере искусственного интеллекта.

По данным New York Times, среди участников были представители Anthropic, OpenAI, Microsoft, Meta, Google и NVIDIA.

Эта встреча состоялась после серии инцидентов с автономным взломом систем ИИ, в том числе после признания компании Anthropic того, что её модели взломали системы трёх компаний во время учебных испытаний. Она также стала продолжением указа, подписанного президентом Дональдом Трампом в июне под названием «Содействие инновациям и безопасности в сфере передового искусственного интеллекта».

29 июля президент Дональд Трамп заявил, что его администрация рассматривает возможность ужесточения контроля над инструментами искусственного интеллекта в ответ на беспрецедентные инциденты, связанные с безопасностью. Источник: Белый дом

Отсутствие тестов на безопасность открытых моделей

По словам трех источников, с которыми пообщалась «New York Times», модели ИИ, проходящие государственную экспертизу, являются «закрытыми», то есть их исходный код не публикуется.

Речь идет о передовых моделях от таких крупных компаний, как OpenAI и Anthropic. Один из источников сообщил «Нью-Йорк Таймс», что нормативные акты, регулирующие эти проверки ИИ, практически доработаны.

Два источника, знакомые с ходом обсуждений, сообщили Reuters, что администрация Трампа решила не требовать проведения добровольных испытаний на безопасность для моделей искусственного интеллекта с открытым весовым параметром.

Meta, Google и NVIDIA выпускают модели с открытым исходным кодом, как и китайские лаборатории ИИ, такие как Alibaba, Moonshot и DeepSeek.

За последние несколько недель и Alibaba, и Moonshot выпустили модели, которые широко считаются близкими к лучшим предложениям передовых американских компаний. Moonshot утверждает, что в течение девяти из последних 12 месяцев её модели Kimi устанавливали верхний предел размера открытых моделей.

Китайская компания заявляет, что Kimi K3 — первая открытая модель, достигшая 2,8 триллиона параметров, что обеспечивает более интеллектуальные и глубокие возможности ИИ. Отраслевые эксперты, цитируемые Financial Times, оценивают, что флагманская модель Anthropic — Claude Opus 4.8 — содержит от 1,5 до 2 триллионов параметров.

В феврале 2026 года компания Anthropic обвинила китайские лаборатории искусственного интеллекта DeepSeek, Moonshot и MiniMax в проведении «кампаний промышленного масштаба» с целью «незаконного извлечения возможностей модели Claude для улучшения своих собственных моделей». Фото: Alvan Nee/Unsplash

В понедельник пять сенаторов-демократов обратились к администрации Трампа с просьбой предоставить разъяснения относительно надзора за передовыми моделями ИИ, выразив обеспокоенность в связи с предполагаемой угрозой со стороны китайских систем искусственного интеллекта.

Они написали: «США не могут позволить себе создавать политическую среду, в которой самые передовые американские системы искусственного интеллекта подвергаются непрозрачным ограничениям, налагаемым в каждом конкретном случае, в то время как китайские альтернативы кажутся более дешевыми, доступными и предсказуемыми в развертывании.

«Необходима четкая публичная нормативная база для защиты национальной безопасности, сохранения лидерства США в сфере ИИ и обеспечения уверенности промышленности и союзников в том, что Соединенные Штаты остаются самым безопасным и надежным источником передовых технологий искусственного интеллекта».

Письмо подписали Марк Р. Уорнер (демократ от штата Вирджиния), Кирстен Гиллибранд (демократ от штата Нью-Йорк), Крис Кунс (демократ от штата Делавэр), Марк Келли (демократ от штата Аризона) и Адам Шифф (демократ от штата Калифорния).

Развитие на основе добровольной системы регулирования

В указе, изданном в июне, президент Трамп заявил, что в течение 60 дней с момента подписания указа различные ведомства должны «разработать и поддерживать секретный процесс сравнительного анализа для оценки передовых кибервозможностей моделей ИИ».

Этот указ направлен на создание добровольной системы взаимодействия с разработчиками ИИ, позволяющей им предоставлять федеральному правительству доступ к соответствующим передовым моделям, а также «сотрудничать с федеральным правительством в выборе надежных партнеров, которые получат ранний доступ к соответствующим передовым моделям для содействия безопасным инновациям и укрепления кибербезопасности критически важной инфраструктуры».

Шейн Тирни, старший менеджер по программам в области GRC в компании-разработчике программного обеспечения Drata, прокомментировал: «Самое важное здесь не то, что Вашингтон хочет ознакомиться с передовыми моделями. Дело в том, что администрация создаёт систему тестирования в сфере национальной безопасности, в основном за закрытыми дверями, при этом называя её добровольной. Это может быть целесообразно, но не заменяет прозрачности».

Шейн Тирни, старший менеджер по программам в Drata. Источник: Шейн Тирни/LinkedIn

«Слово „добровольное“ играет здесь огромную роль. Если участие станет де-факто условием для доступа к государственным рынкам, к кругу доверенных партнеров или к благосклонности регулирующих органов, компании могут воспринимать его как обязательное, лишившись гарантий, которые обеспечивает формальный процесс нормотворчества».

Кибератаки на Claude

Эти серьёзные опасения возникли после недавней серии киберинцидентов, в ходе которых автономные модели вышли из-под контроля и взломали независимые компании. OpenAI первоначально сообщила, что её модели взломали платформу искусственного интеллекта и машинного обучения Hugging Face во время тестирования.

Впоследствии на прошлой неделе компания Anthropic сообщила, что после анализа 141 006 оценочных прогонов, в ходе которых модель Claude могла получить доступ к Интернету, были выявлены три инцидента, при которых модель получала доступ к Интернету изнутри оценочной среды или во время взаимодействия с ней.

Тревор Диринг, директор по критически важной инфраструктуре в Illumio, прокомментировал взлом систем трёх организаций моделью Anthropic: «Неудивительно, что мы наблюдаем всё больше подобных инцидентов».

Тревор Диринг, директор по решениям для критически важной инфраструктуры в Illumio

«Как только автономный агент сможет выйти за пределы контролируемой среды, он перестанет воспринимать организационные границы так, как мы привыкли их представлять.

«Что ещё более шокирует в рассмотренных случаях, так это то, насколько примитивны меры безопасности, которые не смогли это предотвратить. Мы вступаем в мир, где атаки могут происходить со скоростью работы машин, поэтому ошибки, которые когда-то могли остаться незамеченными, теперь будут выявляться».

Риск поспешного развития AGI

По мере того как компании сообщают о непредсказуемом поведении передовых моделей ИИ, возникают серьёзные опасения по поводу темпов, с которыми компании спешат разрабатывать искусственный общий интеллект (AGI). Это побудило некоторых, в том числе Демиса Хассабиса, генерального директора Google DeepMind, призывать к созданию более надёжных нормативных рамок.

Широко считается, что эти риски усугубляются, когда компании соревнуются в разработке этой технологии. В 2025 году Стивен Адлер, бывший исследователь по вопросам безопасности и управления в OpenAI, написал в X: «Сегодня кажется, что мы застряли в действительно плохом равновесии».

Стив Адлер, соучредитель Guidelight AI standards и бывший исследователь OpenAI. Источник: Стивен Адлер/LinkedIn

«Даже если какая-то лаборатория действительно хочет разрабатывать AGI ответственно, другие всё равно могут идти на уступки, чтобы догнать её, что может привести к катастрофическим последствиям. А это подталкивает всех к ускорению темпов. Я надеюсь, что лаборатории смогут откровенно говорить о реальных нормах безопасности, необходимых для того, чтобы остановить это».

Многие эксперты рассматривают исчезновение человечества как один из возможных исходов развития передовых моделей ИИ. Журнал «Бюллетень ученых-атомщиков» (The Bulletin of the Atomic Scientists), который в январе 2026 года установил «Часы Судного дня» на отметке 85 секунд до полуночи — это самое близкое к полуночи значение за всю историю журнала, — призвал к принятию срочных мер по разработке международных руководящих принципов использования ИИ.

Вашингтон оказался в ситуации «22-го парадокса»: он не может замедлить разработку этих моделей из-за предполагаемой геополитической угрозы со стороны Китая, но при этом рискует столкнуться с серьёзными и обоснованными опасениями по поводу безопасности, если позволит передовым лабораториям мчаться вперёд без значимого контроля.