OpenAI раскрывает дополнительные условия партнерства с Пентагоном

Генеральный директор OpenAI Сэм Альтман признал, что соглашение компании с Министерством обороны было заключено слишком поспешно и что общественное мнение о нем неблагоприятное.

После срыва переговоров между Anthropic и Пентагоном в пятницу президент Дональд Трамп распорядился, чтобы федеральные агентства прекратили использование технологий Anthropic после шестимесячного переходного периода. Министр обороны Пит Хегсет назвал компанию, занимающуюся искусственным интеллектом, риском для цепочки поставок.

OpenAI незамедлительно объявила о своем собственном соглашении по внедрению моделей в секретных условиях. Anthropic заявила, что запретит использование своей технологии в полностью автономном оружии или массовом внутреннем наблюдении, а Альтман подтвердил, что OpenAI придерживается тех же ограничений, что вызвало вопросы: была ли OpenAI прозрачна в отношении своих мер безопасности? Почему она заключила сделку, когда Anthropic не смогла этого сделать?

В то время как руководители OpenAI защищали это соглашение в социальных сетях, компания также опубликовала в блоге подробное описание своей стратегии.

В посте были выделены три конкретных области применения, в которых модели OpenAI не допускаются: массовая внутренняя слежка, автономные системы вооружения и «автоматизированные решения с высокими ставками (такие как системы «социального кредита»)».

OpenAI заявила, что, в отличие от других компаний, занимающихся искусственным интеллектом, которые «ослабили или устранили меры безопасности и полагаются в основном на политику использования в качестве мер безопасности при внедрении в сфере национальной безопасности», ее соглашение поддерживает ее «красные линии» «посредством более широкого, многоуровневого подхода».

«Мы сохраняем полный контроль над нашей инфраструктурой безопасности, развертываем ее через облако, привлекаем уполномоченный персонал OpenAI и обеспечиваем строгие договорные меры защиты», — поясняется в блоге. «Это дополнение к надежным мерам защиты, уже предусмотренным законодательством США».

Компания также отметила: «Мы не знаем, почему Anthropic не смогла достичь аналогичного соглашения, и надеемся, что она и другие лаборатории рассмотрят этот путь».

После публикации поста Майк Масник из Techdirt заявил, что соглашение «допускает внутреннюю слежку», поскольку в нем говорится, что сбор частных данных будет осуществляться в соответствии с Указом 12333 и другими законами. Масник охарактеризовал этот указ как «правовую основу, которую АНБ использует для проведения внутренней слежки путем перехвата коммуникаций за пределами США, даже если они касаются граждан США».

В посте на LinkedIn Катрина Маллиган, глава отдела национальной безопасности OpenAI, утверждала, что большая часть дискуссии о формулировках контракта исходит из того, что «единственным препятствием для использования ИИ в целях массовой внутренней слежки и создания автономного оружия является одно-единственное положение в одном контракте с Министерством войны».

«Система работает не так», — заявила Маллиган, добавив: «Архитектура развертывания имеет большее значение, чем формулировка контракта. Ограничивая наше развертывание облачным API, мы можем предотвратить прямую интеграцию наших моделей в оружие, датчики или другое оперативное оборудование».

Альтман также ответил на вопросы о соглашении по X, признав, что оно было заключено поспешно и вызвало значительную негативную реакцию в отношении OpenAI — настолько, что в ту субботу Claude от Anthropic обогнал ChatGPT от OpenAI в Apple App Store. Так зачем же продолжать?

«Мы искренне стремились снизить напряженность и считали, что предложенная сделка была выгодной», — сказал Альтман. «Если мы правы и это приведет к уменьшению трений между Министерством войны и отраслью, нас будут считать дальновидными — компанией, которая преодолела значительные трудности, чтобы поддержать сектор. Если нет, нас будут и дальше критиковать за то, что мы действовали поспешно и без должной осторожности».