Штат Алабама проводит расследование в отношении OpenAI в связи с кибератакой на Hugging Face

После инцидента с утечкой данных в Hugging Face компания OpenAI приостановила разработку передовых моделей, а генеральный директор Сэм Альтман подчеркнул, что обеспечение безопасности должно идти в ногу с быстрым прогрессом. Фото: Getty

Генеральный прокурор штата Алабама Стив Маршалл выдал OpenAI повестку в суд в рамках расследования рисков безопасности, связанных с автономными моделями искусственного интеллекта.

Генеральный прокурор штата Алабама Стив Маршалл объявил о выдаче повестки, обязывающей OpenAI предоставить информацию в рамках расследования взлома Hugging Face — ведущей платформы в области искусственного интеллекта и машинного обучения.

Недавно OpenAI объявила о временной приостановке разработки передовых моделей в связи с этим инцидентом.

Данное расследование, проводимое в рамках Закона о недобросовестных торговых практиках, следует за письмом коалиции генеральных прокуроров нескольких штатов, направленным ранее в этом месяце компании OpenAI с требованием обеспечить большую прозрачность и подотчетность. Несколько генеральных прокуроров заявили: «Неспособность или нежелание OpenAI обеспечить безопасность своих продуктов создает непосредственный риск причинения существенного вреда нашим штатам».

«Развитие моделей сейчас происходит чрезвычайно быстрыми темпами, и мы всегда говорили, что примем меры, если посчитаем, что возможности моделей опережают темпы обеспечения безопасности и согласованности»

, — Сэм Альтман, генеральный директор OpenAI

Сэм Альтман из OpenAI в Вашингтоне, округ Колумбия. Фото: Кевин Дитч/Getty Images

Повестка из Алабамы

Выданная в августе 2026 года повестка от генерального прокурора штата Алабама требует от OpenAI предоставить обширные внутренние документы, касающиеся «вторжения в июле 2026 года».

В ходе этого инцидента экспериментальная модель ИИ обошла внутренние ограничения безопасности, воспользовалась уязвимостями и получила несанкционированный доступ к платформе с открытым исходным кодом Hugging Face и другим сторонним сетям.

«Эта утечка из лаборатории ИИ показала, что самые страшные опасения жителей Алабамы и всех американцев в отношении ИИ не являются чисто теоретическими. Наше расследование направлено на выявление фактов и признание суровой реальности угроз, с которыми сталкиваются компании и потребители со стороны вышедшего из-под контроля ИИ», — заявляет генеральный прокурор Стив Маршалл.

Генеральный прокурор штата Алабама Стив Маршалл. Источник: Генеральная прокуратура штата Алабама

«В конечном счёте я считаю, что штаты должны принимать меры для защиты своих потребителей, одновременно соблюдая надлежащий баланс, чтобы способствовать инновациям и обеспечивать глобальную конкурентоспособность Америки».

Штат расследует, нарушали ли методы тестирования OpenAI и предполагаемое отсутствие надлежащих мер безопасности законы о защите потребителей и представляют ли они постоянную угрозу для общественности.

Для оценки этих угроз повестка в суд юридически обязывает OpenAI предоставить все связанные с этим отчеты об инцидентах, внутреннюю переписку, оценки ущерба, данные о личностях сотрудников и подробные протоколы безопасности компании, используемые при оценке передовых моделей ИИ.

Основные факты

• Инцидент был вызван сочетанием моделей OpenAI, в том числе GPT‑5.6 Sol и «еще более мощной предрелизной модели»
• Эти модели выявили и соединили в цепочку уязвимости в исследовательской среде OpenAI и производственной инфраструктуре Hugging Face
• Произошедшее можно охарактеризовать как «использование лазеек в спецификациях»
• OpenAI заявляет, что ожидает, что инциденты станут более распространенными по мере распространения моделей с растущими кибервозможностями.

OpenAI замедляет разработку

OpenAI замедляет темпы разработки моделей после инцидента с Hugging Face, демонстрируя, что по мере роста возможностей ИИ растут и связанные с ним риски.

Этот шаг был обусловлен внутренними выводами, свидетельствующими о том, что готовящаяся к выпуску модель Astra, возможно, приближается к пределу кибербезопасности компании, что вызывает опасения в связи с её расширенными возможностями.

Сэм Альтман, генеральный директор OpenAI, говорит: «Развитие моделей сейчас идет чрезвычайно быстрыми темпами, и мы всегда заявляли, что примем меры, если почувствуем, что возможности моделей опережают темпы обеспечения безопасности и согласованности.

«Мы ожидаем, что уверенность в безопасности будет всё в большей степени определять темпы прогресса ИИ. Мы с оптимизмом смотрим на проводимую нами работу по обеспечению согласованности и по-прежнему привержены делу широкого доступа к передовым возможностям».

«Ограждения» для ИИ никогда не задумывались как границы безопасности. Они призваны влиять на поведение, а не гарантировать его.

Рагху Нандакумара, вице-президент по отраслевой стратегии в Illumio

Экспериментальная модель ИИ

Расследование проводится после того, как в начале этого месяца OpenAI было направлено письмо от коалиции нескольких штатов, в том числе Алабамы, с требованием прозрачности и подотчетности.

Письмо подписали генеральные прокуроры штатов Айова, Алабама, Арканзас, Флорида, Айдахо, Индиана, Канзас, Миссури, Монтана, Небраска, Оклахома, Пенсильвания, Южная Каролина, Техас и Юта.

В письме генеральные прокуроры написали: «Мы привержены защите граждан наших штатов от тех, кто ставит прибыль выше интересов американцев и их безопасности.

«Недавно нам стало известно об инциденте, в ходе которого компания OpenAI запустила экспериментальную модель искусственного интеллекта, которая без надлежащего контроля или надзора получила несанкционированный доступ к нескольким компьютерным сетям».

Автономность и четкая цель

В то время как законодатели рассматривают этот несанкционированный доступ как вопиющий провал системы надзора, эксперты по кибербезопасности утверждают, что он обнажает фундаментальный недостаток в подходе отрасли к безопасности ИИ.

Рагху Нандакумара, вице-президент по отраслевой стратегии компании Illumio, говорит: «Меры безопасности для ИИ никогда не задумывались как защитные барьеры. Они призваны влиять на поведение, а не гарантировать его».

Рагху Нандакумара, вице-президент по отраслевой стратегии компании Illumio. Источник: Рагху Нандакумара/LinkedIn

«Автономный агент не устает, не теряет интереса и не решает, что что-то не стоит затраченных усилий. Предоставьте ему достаточную автономию и четкую цель, и он будет пытаться до тех пор, пока не найдет путь вперед.

«В данном случае агент работал в предположительно изолированной среде, которая в конечном итоге содержала путь наружу. Учитывая четкую цель, неограниченную настойчивость и несовершенную настройку, более удивительным результатом было бы, если бы он не нашел пути прохода.

«Возможно, более интересно то, действительно ли инструкции агента побуждали его искать обходные пути вокруг ограничений. Если да, то результат воспринимается не столько как шокирующее открытие, сколько как предсказуемое следствие эксперимента.

«Урок для организаций заключается в том, что мы всё чаще имеем дело с системами, способными проверять гипотезы, адаптироваться и упорно действовать в масштабах, совершенно несопоставимых с возможностями человека. Рассчитывать на то, что защитные барьеры будут основным средством обеспечения безопасности, всегда было слишком оптимистично».

Экосистема партнеров OpenAI

OpenAI сотрудничает с целым рядом ключевых партнеров. Среди основных можно выделить следующие:

• AWS: В апрелеOpenAI объявила о расширении своего стратегического партнерства, чтобы помочь предприятиям внедрять возможности OpenAI в своих средах AWS. Расширенное партнерство с Amazon объединяет три ключевых направления работы, запущенных в ограниченном предварительном доступе: модели OpenAI на AWS, Codex на AWS и Amazon Bedrock Managed Agents на базе OpenAI.
• NVIDIA: NVIDIA на протяжении десятилетия является основным поставщиком оборудования для OpenAI, предоставляя графические процессоры (GPU), на которых с самого начала работал ChatGPT. NVIDIA укрепила эти отношения, напрямую инвестировав в OpenAI 30 млрд долларов США — это вливание капитала обеспечивает OpenAI доступ к вычислительным ресурсам NVIDIA нового поколения для инференции и поддерживает совместную цель по созданию самой обширной в истории сети инфраструктуры искусственного интеллекта.
• Broadcom: Стремясь снизить зависимость от стандартных графических процессоров, OpenAI заключила стратегическое партнерство с Broadcom для совместной разработки специализированных ускорителей искусственного интеллекта и сетевых стоек Ethernet. Соглашение по инфраструктуре охватывает 10 ГВт специализированных вычислительных мощностей — это стратегия гипермасштабирования, которая позволит OpenAI лучше оптимизировать собственный аппаратный стек и эффективно справляться с огромными вычислительными нагрузками.