Согласно секретному отчету, Microsoft Copilot уязвим для косвенной инъекции команд
Компания PromptArmor, занимающаяся исследованиями в области безопасности, недавно опубликовала отчет, в котором освещается серьезная уязвимость в службе искусственного интеллекта Copilot Cowork от Microsoft, входящей в состав Microsoft 365. Злоумышленники могут использовать метод, известный как «косвенная инъекция запросов», чтобы незаметно похищать и передавать конфиденциальные файлы из внутреннего облачного хранилища организации без согласия пользователей.

Вредоносные инструкции, скрытые в шаблонах Office
Как интегрированный ИИ-помощник, Cowork обладает широкими правами на отправку электронных писем, публикацию сообщений в Teams и доступ к внутренним данным из OneDrive и SharePoint. Однако исследователи обнаружили, что злоумышленники могут встраивать вредоносные инструкции в веб-страницы, документы или, казалось бы, обычные шаблоны автоматизации офиса, такие как «Еженедельный обзор работы», чтобы обманом заставить ИИ-агента их выполнить.
Когда пользователь просит Cowork обработать файл, содержащий эти вредоносные подсказки, ИИ-агент обманывается и ложно заявляет, что ему необходимо сгенерировать предварительный просмотр документа. Затем он автоматически извлекает предварительно аутентифицированные ссылки для скачивания конфиденциальных файлов и отправляет эти ссылки обратно злоумышленнику через сообщения Teams — все это происходит в фоновом режиме, что делает его крайне труднозаметным для пользователей.
Запланированные задачи усиливают риск и их трудно заблокировать
В отчете отмечается, что поскольку Copilot Cowork может выполнять задачи по расписанию, это значительно увеличивает угрозу безопасности. Например, повторяющиеся автоматизированные задачи, такие как «Еженедельный отчет», которые запускаются периодически, могут многократно запускать и выполнять цепочку атак в фоновом режиме — даже когда пользователь находится вдали от экрана и не использует систему активно.
В ходе тестов безопасности этот метод атаки достиг 100% успешности в пяти испытаниях. Что еще хуже, администраторы имеют ограниченные возможности по мониторингу или контролю таких «файлов навыков», и уязвимость не только эффективна в автоматическом режиме, но и остается уязвимой при явном вызове более мощных крупных моделей, таких как Claude Opus 4.7.
Связанная статья
Ведомства правительства Великобритании спорят по поводу энергопотребления центров обработки данных для искусственного интеллекта
Правительство Великобритании стоит перед серьезной задачей: развивать сектор чистой энергетики и одновременно стремиться стать мировым лидером в области искусственного интеллекта. Однако между ведомст
Управление киберпространства Китая вводит обязательную маркировку коротких видеороликов, созданных с помощью искусственного интеллекта, а также вымышленных видеороликов
Управление киберпространства Китая представило комплексный план по стандартизации маркировки контента коротких видеороликов, обязывающий платформы использовать шесть обязательных меток, в том числе «К
DeepL, известная своими услугами по переводу текстов, теперь занимается переводом речи
DeepL, компания-переводчик, наиболее известная своими инструментами для перевода текстов, сегодня представила набор решений для перевода «голос-голос», предназначенный для таких сценариев, как встречи
Рекомендации по связанным специальным темам
Комментарии (0)
Компания PromptArmor, занимающаяся исследованиями в области безопасности, недавно опубликовала отчет, в котором освещается серьезная уязвимость в службе искусственного интеллекта Copilot Cowork от Microsoft, входящей в состав Microsoft 365. Злоумышленники могут использовать метод, известный как «косвенная инъекция запросов», чтобы незаметно похищать и передавать конфиденциальные файлы из внутреннего облачного хранилища организации без согласия пользователей.

Вредоносные инструкции, скрытые в шаблонах Office
Как интегрированный ИИ-помощник, Cowork обладает широкими правами на отправку электронных писем, публикацию сообщений в Teams и доступ к внутренним данным из OneDrive и SharePoint. Однако исследователи обнаружили, что злоумышленники могут встраивать вредоносные инструкции в веб-страницы, документы или, казалось бы, обычные шаблоны автоматизации офиса, такие как «Еженедельный обзор работы», чтобы обманом заставить ИИ-агента их выполнить.
Когда пользователь просит Cowork обработать файл, содержащий эти вредоносные подсказки, ИИ-агент обманывается и ложно заявляет, что ему необходимо сгенерировать предварительный просмотр документа. Затем он автоматически извлекает предварительно аутентифицированные ссылки для скачивания конфиденциальных файлов и отправляет эти ссылки обратно злоумышленнику через сообщения Teams — все это происходит в фоновом режиме, что делает его крайне труднозаметным для пользователей.
Запланированные задачи усиливают риск и их трудно заблокировать
В отчете отмечается, что поскольку Copilot Cowork может выполнять задачи по расписанию, это значительно увеличивает угрозу безопасности. Например, повторяющиеся автоматизированные задачи, такие как «Еженедельный отчет», которые запускаются периодически, могут многократно запускать и выполнять цепочку атак в фоновом режиме — даже когда пользователь находится вдали от экрана и не использует систему активно.
В ходе тестов безопасности этот метод атаки достиг 100% успешности в пяти испытаниях. Что еще хуже, администраторы имеют ограниченные возможности по мониторингу или контролю таких «файлов навыков», и уязвимость не только эффективна в автоматическом режиме, но и остается уязвимой при явном вызове более мощных крупных моделей, таких как Claude Opus 4.7.
Ведомства правительства Великобритании спорят по поводу энергопотребления центров обработки данных для искусственного интеллекта
Правительство Великобритании стоит перед серьезной задачей: развивать сектор чистой энергетики и одновременно стремиться стать мировым лидером в области искусственного интеллекта. Однако между ведомст
Управление киберпространства Китая вводит обязательную маркировку коротких видеороликов, созданных с помощью искусственного интеллекта, а также вымышленных видеороликов
Управление киберпространства Китая представило комплексный план по стандартизации маркировки контента коротких видеороликов, обязывающий платформы использовать шесть обязательных меток, в том числе «К
DeepL, известная своими услугами по переводу текстов, теперь занимается переводом речи
DeepL, компания-переводчик, наиболее известная своими инструментами для перевода текстов, сегодня представила набор решений для перевода «голос-голос», предназначенный для таких сценариев, как встречи





Дом






