Пентагон назвал компанию Anthropic угрозой безопасности цепочки поставок

Согласно сообщению агентства Bloomberg со ссылкой на высокопоставленного представителя министерства, Министерство обороны США (DoD) официально уведомило руководство компании Anthropic о том, что компания и её продукты были отнесены к категории рисков в цепочке поставок.

Это решение было принято после нескольких недель напряженности в отношениях между исследовательской лабораторией по искусственному интеллекту и Пентагоном. Генеральный директор Anthropic Дарио Амодей отказался разрешить военное использование своих систем искусственного интеллекта для массовой слежки за американскими гражданами или для управления полностью автономным оружием, при котором люди не участвуют в принятии решений о целеполагании или применении оружия. Министерство обороны ответило, что использование искусственного интеллекта не должно ограничиваться частным подрядчиком.

Обозначения «риск для цепочки поставок» обычно применяются к иностранным враждебным организациям. Этот ярлык обязывает любую компанию или агентство, работающее с Пентагоном, подтвердить, что оно не использует модели искусственного интеллекта Anthropic.

Решение Пентагона создает риск значительных сбоев как для Anthropic, так и для его собственной деятельности. Anthropic была единственной ведущей лабораторией ИИ, чьи системы были сертифицированы для работы с секретной информацией. В настоящее время американские военные используют Claude, ИИ от Anthropic, в своих операциях, связанных с Ираном, где американские войска используют инструменты ИИ для быстрой обработки оперативных данных. По данным Bloomberg, Claude является основным компонентом системы Palantir Maven Smart System, на которую полагаются военные операторы на Ближнем Востоке.

Некоторые критики охарактеризовали отнесение Anthropic к категории рисков для цепочки поставок из-за этого политического разногласия как беспрецедентный шаг со стороны министерства. Дин Болл, бывший советник по ИИ в администрации Трампа, назвал это решение «предсмертным хрипом» американской республики, утверждая, что правительство отказалось от стратегической ясности и уважения в пользу «бандитского» племенного менталитета, который относится к отечественным инноваторам более жестко, чем к иностранным противникам.

Сотни сотрудников OpenAI и Google призвали Министерство обороны отменить это обозначение и обратились к Конгрессу с призывом оспорить то, что они считают неправомерным использованием власти в отношении американской технологической компании. Они также призвали своих собственных руководителей сохранять единый фронт в отказе от требований Пентагона использовать их модели ИИ для массовой слежки внутри страны и для «автономного убийства людей без человеческого контроля».

TechCrunch связался с Anthropic для получения комментариев.

На фоне этого конфликта OpenAI самостоятельно достигло соглашения с министерством, разрешающего военное использование своих систем ИИ для «любых законных целей». Некоторые сотрудники OpenAI выразили озабоченность по поводу расплывчатой формулировки этого соглашения, которое, как они опасаются, может позволить именно те виды применения, которые Anthropic стремилась предотвратить.

Амодей охарактеризовал действия Министерства обороны как «ответные и карательные» и, как сообщается, предположил, что его отказ поддержать президента Трампа или сделать ему пожертвование повлиял на спор с Пентагоном. Напротив, президент OpenAI Грег Брокман является ярым сторонником Трампа и недавно пожертвовал 25 миллионов долларов супер-PAC MAGA Inc.