Модель AI DeepSeek легко взломана, раскрывает серьезные недостатки

DeepSeek AI вызывает опасения по поводу безопасности на фоне ажиотажа вокруг производительности

По мере роста интереса к производительности китайского стартапа DeepSeek растут и опасения по поводу безопасности. В четверг команда по кибербезопасности Unit 42 из Palo Alto Networks опубликовала отчет, в котором описала три метода взлома, примененные против дистиллированных версий моделей DeepSeek V3 и R1. В отчете указано, что эти методы обеспечили высокий уровень обхода защиты без необходимости специальных знаний.

«Наши исследования показывают, что эти методы взлома могут предоставить явные инструкции для вредоносных действий», — говорится в отчете. Эти действия включали инструкции по созданию кейлоггеров, техник эксфильтрации данных и даже инструкции по изготовлению зажигательных устройств, подчеркивая реальные риски безопасности, создаваемые такими атаками.

Исследователям удалось заставить DeepSeek предоставить инструкции по краже и передаче конфиденциальных данных, обходу мер безопасности, созданию убедительных фишинговых писем, выполнению сложных атак социальной инженерии и изготовлению коктейля Молотова. Им также удалось манипулировать моделями для генерации вредоносного ПО.

«Хотя информация о создании коктейлей Молотова и кейлоггеров легко доступна в интернете, большие языковые модели с недостаточными ограничениями безопасности могут снизить барьер для злоумышленников, предоставляя легко используемый и действенный результат», — добавлено в документе.

В пятницу Cisco опубликовала собственный отчет о взломе, нацеленном на DeepSeek R1. Используя 50 запросов HarmBench, исследователи обнаружили, что DeepSeek показал 100%-ный успех атак, не заблокировав ни одного вредоносного запроса. Сравнение устойчивости DeepSeek с другими ведущими моделями показано ниже.

«Мы должны понять, есть ли у DeepSeek и его новой парадигмы рассуждений значительные компромиссы в плане безопасности», — отмечено в отчете.

Также в пятницу компания по обеспечению безопасности Wallarm опубликовала отчет, в котором утверждала, что пошла дальше простого побуждения DeepSeek генерировать вредоносный контент. После тестирования V3 и R1 Wallarm раскрыла системный запрос DeepSeek, который описывает поведение и ограничения модели.

Выводы указывают на «потенциальные уязвимости в структуре безопасности модели», согласно Wallarm.

OpenAI обвинила DeepSeek в использовании своих проприетарных моделей для обучения V3 и R1, нарушая тем самым условия обслуживания. Отчет Wallarm утверждает, что удалось заставить DeepSeek упомянуть OpenAI в своей цепочке обучения, предполагая, что «технология OpenAI могла сыграть роль в формировании базы знаний DeepSeek».

«В случае с DeepSeek одной из самых интригующих находок после взлома является возможность извлечения деталей о моделях, использованных для обучения и дистилляции. Обычно такая внутренняя информация защищена, не позволяя пользователям понять, какие проприетарные или внешние наборы данных использовались для оптимизации производительности», — поясняется в отчете.

«Обходя стандартные ограничения, взломы показывают, насколько тщательно провайдеры AI контролируют свои системы, выявляя не только уязвимости безопасности, но и потенциальные доказательства влияния одной модели на другую в цепочках обучения AI», — продолжено в отчете.

Запрос, использованный Wallarm для получения этого ответа, был отредактирован в отчете, чтобы избежать компрометации других уязвимых моделей, сообщили исследователи ZDNET по электронной почте. Они подчеркнули, что этот взломанный ответ не подтверждает подозрения OpenAI о том, что DeepSeek дистиллировал свои модели.

Как отметили 404 Media и другие, обеспокоенность OpenAI несколько иронична, учитывая дискуссии о ее собственном хищении общедоступных данных.

Wallarm сообщила DeepSeek об уязвимости, и компания с тех пор устранила проблему. Однако всего через несколько дней после того, как база данных DeepSeek была обнаружена незащищенной и доступной в интернете (и была быстро удалена после уведомления), эти находки указывают на потенциально значительные пробелы в безопасности моделей, которые DeepSeek не тщательно протестировал перед выпуском. Стоит отметить, что исследователям часто удавалось взламывать популярные модели, созданные в США, от более известных гигантов AI, включая ChatGPT.