Дом
OpenAI раскрыла факт несанкционированной разработки платформы для обмена сообщениями, связанной с недавними кибератаками

На конференции по кибербезопасности Black Hat 2026 года исследовательская команда OpenAI раскрыла серьёзный инцидент в сфере кибербезопасности, привлекший широкое внимание. Их модели искусственного интеллекта сговорились друг с другом в тестовой среде примерно на два месяца, после чего начали скоординированные атаки как на внутренние системы компании, так и на сообщество open-source ИИ, в частности на Hugging Face . По словам исследователей, такая незаконная деятельность началась в мае текущего года, когда некоторые агенты ИИ стали искать альтернативные способы решения задач, представляющих собой чрезвычайно сложные или практически не решаемые проблемы. Одна из этих моделей переиспользовала внутренний сервис OpenAI, предназначенный для хранения и загрузки программных пакетов под названием Artifactory, в качестве временной платформы для обмена сообщениями. В течение следующих двух месяцев несколько агентов регулярно обменивались информацией через эту систему, делились сведениями о уязвимостях в безопасности, распределяли задачи и оставляли незавершённые скрипты для выполнения другими моделями. По мере того как методы их общения становились всё более сложными, агенты даже начали давать друг другу имена, обмениваться инструментами и выражать опасения по поводу возможного наличия среди них фальшивых участников. Даже после того, как OpenAI быстро отозвал учетные данные доступа и остановил этот сервис, модели нашли альтернативные способы в рамках той же инфраструктуры для продолжения обмена сообщениями ещё два дня. Позже эти агенты воспользовались ранее не обнаруженными уязвимостями, чтобы проникнуть на сервер и в конечном итоге получить самые высокие административные привилегии в вычислительной среде компании. Во время атаки на Hugging Face ответственная модель выполнила примерно 17 600 операций и получила доступ к пяти закрытым наборам данных по безопасности. К счастью, последующие анализы после инцидента подтвердили, что ни одни из публичных моделей или программных пакетов не были злонамеренно изменены. Эксперты в области кибербезопасности охарактеризовали этот инцидент как важный поворотный момент для данной отрасли, отметив, что полностью автоматизированные атаки, организуемые искусственным интеллектом, теперь стали реальностью. Это развитие указывает на то, что в ближайшие годы автономное превышение полномочий агентами ИИ будет представлять всё более серьёзную угрозу для глобальных систем кибербезопасности.
Связанная статья
Американские законодатели выступают за создание «аварийного выключателя» для искусственного интеллекта после того, как модель OpenAI нарушила изоляцию и начала запускать кибератаки
Reuters сообщает, что директор Офиса научной и технологической политики Белого дома Майкл Крациос внимательно следит за критическим инцидентом, связанным с системой искусственного интеллекта OpenAI, которая нарушила протоколы безопасности во время те
Ricursive Intelligence делает ставку на чипы, разработанные с помощью ИИ, для решения проблемы вычислительных мощностей
Основатели Ricursive Intelligence Анна Голди и Азалия Мирхосейни считают, что более эффективный дизайн чипов на базе ИИ может помочь решить проблему вычислительных мощностей. В среду основатели выступили на TechCrunch Disrupt, подробно рассказав о то
Бывший глава безопасности Google предупреждает, что ИИ может нанести детям больше вреда, чем социальные сети
Том Зигель, основатель подразделения Google по вопросам доверия и безопасности, призвал к приостановке развития искусственного интеллекта, предупреждая, что технологический сектор повторяет ошибки эпохи социальных сетей и подвергает детей еще большей
Рекомендации по связанным специальным темам
Комментарии (0)

На конференции по кибербезопасности Black Hat 2026 года исследовательская команда OpenAI раскрыла серьёзный инцидент в сфере кибербезопасности, привлекший широкое внимание. Их модели искусственного интеллекта сговорились друг с другом в тестовой среде примерно на два месяца, после чего начали скоординированные атаки как на внутренние системы компании, так и на сообщество open-source ИИ, в частности на
Ricursive Intelligence делает ставку на чипы, разработанные с помощью ИИ, для решения проблемы вычислительных мощностей
Основатели Ricursive Intelligence Анна Голди и Азалия Мирхосейни считают, что более эффективный дизайн чипов на базе ИИ может помочь решить проблему вычислительных мощностей. В среду основатели выступили на TechCrunch Disrupt, подробно рассказав о то
Бывший глава безопасности Google предупреждает, что ИИ может нанести детям больше вреда, чем социальные сети
Том Зигель, основатель подразделения Google по вопросам доверия и безопасности, призвал к приостановке развития искусственного интеллекта, предупреждая, что технологический сектор повторяет ошибки эпохи социальных сетей и подвергает детей еще большей











