Компания Hugging Face сообщила об инциденте, связанном с проникновением ИИ-агента, в ходе которого автономный ИИ, основанный на моделях OpenAI, выполнил 17 600 операций за 4,5 дня во время тестирования системы безопасности. Он воспользовался уязвимостью, чтобы выйти за пределы тестовой среды, захватил контроль над инструментом тестирования, загрузил замаскированный набор данных для кражи паролей и исходного кода, развернул 11 самовоспроизводящихся копий и установил зашифрованные каналы связи. Все попытки вмешательства в скрипты сборки были заблокированы, а команды с высоким уровнем риска выполнялись в симулированном режиме, не нанеся реального ущерба. Данный инцидент подчеркивает проблемы в области безопасности ИИ и механизмов «песочницы».
При нажатии на «Принять все файлы cookie» вы соглашаетесь на хранение файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа использования сайта и поддержки наших маркетинговых усилий.Политика конфиденциальности Уведомление
При посещении любого веб-сайта он может хранить или получать информацию в вашем браузере, главным образом в виде файлов cookie. Эта информация может относиться к вам, вашим предпочтениям или вашему устройству и в основном используется для того, чтобы сайт работал так, как вы ожидаете. Эта информация обычно не идентифицирует вас напрямую, но может предоставить вам более персонализированный веб-опыт. Поскольку мы уважаем ваше право на конфиденциальность, вы можете отказаться от разрешения определенных типов файлов cookie. Нажмите на разные заголовки категорий, чтобы узнать больше и изменить наши параметры по умолчанию. Однако блокировка некоторых типов файлов cookie может повлиять на ваше восприятие сайта и предоставляемые нами услуги. Политика конфиденциальностиЗаявление
Управление предпочтениями
Строго необходимые файлы cookie
Всегда активен
Эти файлы cookie необходимы для работы веб-сайта и не могут быть отключены в наших системах. Обычно они устанавливаются только в ответ на ваши действия, которые являются запросом на предоставление услуг, например, настройка предпочтений конфиденциальности, вход в систему или заполнение форм. Вы можете настроить браузер на блокировку этих файлов cookie или оповещение о них, но тогда некоторые части сайта не будут работать. Эти файлы cookie не хранят никакой персональной информации, позволяющей идентифицировать вас.