Что противостояние Anthropic с Пентагоном означает для национальной безопасности

Последние две недели прошли под знаком публичного противостояния между генеральным директором Anthropic Дарио Амодеи и министром обороны Питом Хегсетом, в центре которого стоял вопрос об использовании технологий искусственного интеллекта в военной сфере.

Anthropic установила правила, запрещающие использование ее моделей ИИ для массовой слежки за американскими гражданами или для полностью автономных систем вооружения, которые наносят удары без одобрения человека. В противовес этому министр Хегсет утверждает, что Министерство обороны не должно быть ограничено правилами поставщика, выступая за разрешение использовать технологию для любого «законного применения».

В четверг Амодей публично заявил, что Anthropic не намерена отступать от своей позиции, несмотря на то, что компании грозит признание ее источником риска для цепочки поставок. Учитывая быстрое развитие событий, крайне важно четко понимать основные вопросы, стоящие на кону в этом конфликте.

По сути, этот спор касается контроля: кто управляет внедрением мощных систем ИИ — компании, которые их создают, или государственные органы, стремящиеся их внедрить.

О чем беспокоится Anthropic?

Как уже упоминалось, основные опасения Anthropic связаны с применением ее моделей для массовой слежки или в автономном оружии, лишенном человеческого контроля над принятием решений о целеполагании и применении. В отличие от традиционных оборонных подрядчиков, которые часто имеют ограниченный контроль над конечным использованием, Anthropic с момента своего основания утверждает, что уникальные риски ИИ требуют уникальных мер безопасности. Главная задача компании — обеспечить соблюдение этих мер безопасности, когда ее технологии используются военными.

Вооруженные силы США уже используют высокоавтоматизированные системы, некоторые из которых обладают летальными возможностями. Хотя окончательное решение о применении летальной силы традиционно остается за людьми, правовых ограничений на автономное военное оружие практически нет. Министерство обороны не вводит полного запрета на полностью автономные системы. Директива 2023 года разрешает ИИ самостоятельно выбирать и поражать цели при условии соблюдения определенных стандартов и получения одобрения со стороны высшего руководства.

Именно эта политическая структура вызывает беспокойство у Anthropic. Разработка военных технологий часто проходит в условиях непрозрачности; шаги по автоматизации принятия решений, связанных с применением смертоносного оружия, могут не стать достоянием общественности до тех пор, пока система не начнет функционировать. Если такая система будет включать модели Anthropic, Пентагон может счесть это «законным использованием».

Сэкономьте до 300 долларов или 30% на TechCrunch Founder Summit

Более 1000 основателей и инвесторов соберутся на TechCrunch Founder Summit 2026, чтобы провести день, посвященный росту, реализации и практическим стратегиям масштабирования. Получите ценные знания от основателей и инвесторов, формирующих отрасль. Общайтесь с коллегами, сталкивающимися с подобными проблемами роста. Уезжайте с готовыми к применению тактиками, которые можно реализовать сразу же.

Предложение действует до 13 марта.

Сэкономьте до 300 долларов или 30% на TechCrunch Founder Summit

Присоединяйтесь к более чем 1000 основателей и инвесторов на TechCrunch Founder Summit 2026, чтобы провести насыщенный день, посвященный росту, реализации и масштабированию в реальных условиях. Получите ценные знания от основателей и инвесторов, которые определили развитие отрасли. Общайтесь с коллегами, находящимися на аналогичных этапах развития. Уезжайте с практическими тактиками, которые можно применить сразу же.

Предложение действует до 13 марта.

Позиция Anthropic заключается не в том, что такие приложения должны быть навсегда запрещены, а в том, что ее текущие модели еще не обладают достаточными возможностями для безопасного обращения с ними. Рассмотрим риски: автономная система, ошибочно идентифицирующая цель, эскалирующая конфликт без разрешения или принимающая в мгновение ока необратимое смертельное решение. Передача управления оружием несовершенному ИИ создает быструю, уверенную систему, плохо подготовленную к принятию решений с высокими ставками.

Кроме того, ИИ способен усилить законное наблюдение за гражданами США до пугающих масштабов. Хотя наблюдение посредством сбора текстовых сообщений, электронных писем и коммуникаций уже разрешено в соответствии с определенными законами, ИИ кардинально меняет ситуацию. Он позволяет осуществлять автоматическое крупномасштабное распознавание образов, анализ перекрестных наборов данных, прогнозную оценку рисков и непрерывный мониторинг поведения.

Чего хочет Пентагон?

Позиция Пентагона проста: он стремится получить свободу использовать технологии Anthropic для любых законных целей, которые сочтет необходимыми, не будучи связанным внутренними политиками компании в отношении автономного оружия или слежения.

Министр Хегсет конкретно заявил, что Министерство обороны не должно быть ограничено правилами поставщика, подчеркнув, что оно будет заниматься только «законным использованием» технологии.

Шон Парнелл, главный пресс-секретарь Пентагона, заявил в четверг в своем посте на X, что ведомство не заинтересовано в проведении массовой внутренней слежки или развертывании автономного оружия.

«Наша просьба проста: позволить Пентагону использовать модель Anthropic для любых законных целей», — сказал Парнелл. «Это здравый подход, призванный не допустить, чтобы Anthropic поставила под угрозу критически важные военные операции и потенциально подвергла опасности наш персонал. Мы не можем позволить какой-либо компании диктовать условия наших оперативных решений».

Он добавил, что у Anthropic есть время до 17:01 по восточному времени в пятницу, чтобы принять решение. «В противном случае мы расторгнем наше партнерство и обозначим Anthropic как риск для цепочки поставок Министерства обороны», — сказал он.

Хотя официальная позиция министерства сосредоточена на оперативной свободе, критика министра Хегсета время от времени затрагивала культурные вопросы. В январской речи в офисах SpaceX и xAI он осудил то, что он назвал «пробужденным ИИ», и многие сочли эти комментарии предвестниками нынешнего конфликта с Anthropic.

«ИИ Министерства обороны не будет пробужденным», — заявил Хегсет. «Мы создаем системы, готовые к войне, а не чат-ботов, предназначенных для семинара в университетах Лиги плюща».

Что же теперь?

Пентагон пригрозил двумя возможными мерами: объявить Anthropic «риском для цепочки поставок», что фактически занесет компанию в черный список и лишит ее возможности участвовать в государственных контрактах, или применить Закон о военном производстве, чтобы заставить компанию адаптировать свои модели для военного использования. В связи с приближением установленного Хегсетом крайнего срока в пятницу остается неясным, пойдет ли Пентагон на эти меры.

Это тупиковая ситуация с высокими ставками для обеих сторон. Сачин Сет, венчурный инвестор из Trousdale Ventures, специализирующийся на оборонных технологиях, предполагает, что признание компании риском для цепочки поставок может стать катастрофой для Anthropic.

С другой стороны, отмечает он, если Министерство обороны разорвет связи с Anthropic, это может создать уязвимость в сфере национальной безопасности.

«Министерство столкнется с шести-двенадцатимесячным промежутком, ожидая, пока конкуренты, такие как OpenAI или xAI, достигнут сопоставимых возможностей», — сказал Сет TechCrunch. «Это создает окно, в котором они могут полагаться на вторые или третьи по качеству модели».

xAI готовит свою технологию к классификации по уровню безопасности и потенциально может заменить Anthropic. Учитывая публичные заявления владельца компании Илона Маска, вполне вероятно, что xAI предоставит Пентагону полный контроль над своей технологией. Недавние сообщения указывают на то, что OpenAI может сохранить ограничения, аналогичные тем, что действуют в Anthropic.