Дом
Grafana обнаружила уязвимость в системе подсказок, позволяющую хакерам извлекать конфиденциальные корпоративные данные с помощью ИИ-помощников
Компания Noma, специализирующаяся на вопросах безопасности, недавно опубликовала исследовательский отчет, в котором раскрыла уязвимость под названием «GrafanaGhost» в функции искусственного интеллекта платформы Grafana — открытой платформы для мониторинга и визуализации данных. Эта уязвимость позволяет злоумышленникам использовать методы «косвенной инъекции команд», чтобы обманом заставить ИИ-помощника передать конфиденциальные корпоративные данные на внешний сервер.

«Косвенная инъекция подсказок»: скрытый метод вывода данных
Исследователи объясняют, что встроенный ИИ-помощник Grafana позволяет пользователям запрашивать и анализировать данные мониторинга с помощью естественного языка. Однако злоумышленники могут встраивать вредоносные инструкции в внешние веб-страницы, доступные для Grafana.
Когда ИИ-помощник обрабатывает этот скомпрометированный контент, его можно обманом заставить обойти существующие средства безопасности и инициировать внешние запросы. Затем конфиденциальная информация передается в виде параметров URL на сервер, находящийся под контролем злоумышленника. Поскольку этот процесс не генерирует заметных сообщений об ошибках, обычные пользователи часто остаются в неведении относительно утечки.
Официальный ответ: уязвимость, не требующая нажатия кнопки, теперь исправлена
Комментируя эту уязвимость, Джо Макманус (Joe McManus), директор по безопасности Grafana Labs, подтвердил, что компания оперативно выпустила исправление после получения уведомления. Он подчеркнул ключевые ограничения этой уязвимости:
Неавтоматическая атака: это не уязвимость типа «zero-click» или самораспространяющаяся уязвимость.
Необходимое условие доступа: злоумышленники должны сначала получить доступ к устройству пользователя, чтобы взаимодействовать с AI-помощником.
Необходимость нескольких триггеров: для выполнения вредоносных операций обычно требуется несколько взаимодействий, а не одно действие.
Grafana Labs добавила, что на данный момент нет доказательств использования этой уязвимости в реальных условиях, и в ее облачном сервисе Grafana Cloud не было выявлено никаких утечек данных. Компания советует пользователям не поддаваться панике и рекомендует следить за обновлениями и переходить на исправленную, безопасную версию, чтобы поддерживать безопасную среду мониторинга.
Связанная статья
Доходы компании Anthropropic растут стремительно; ее рыночная капитализация приближается к отметке в триллион долларов.
Отчеты показывают, что компания Anthropic добилась значительного роста доходов всего за несколько месяцев. Годовой объем ее доходов теперь превышает 30 миллиардов долларов — это более чем в три раза больше, чем было в конце прошлого года. Такой рост
Компания Apple удалила приложение Cal AI из-за несанкционированных покупок внутри приложения и манипулятивных способов осуществления платежей.
Недавнее удаление Apple приложения Cal AI, популярного приложения для отслеживания потребления пищи на основе искусственного интеллекта в рамках сервиса MyFitnessPal, подчеркивает строгое соблюдение Apple политик App Store в отношении внешних платеже
Тарификация Github Copilot на основе токенов вызывает возмущение среди разработчиков
Золотой век сервиса GitHub Copilot от Microsoft, по-видимому, подходит к концу, особенно для частных пользователей. Компания переходит от фиксированной абонентской платы к модели оплаты на основе токенов, что может значительно увеличить затраты. Боль
Рекомендации по связанным специальным темам
Комментарии (0)
Компания Noma, специализирующаяся на вопросах безопасности, недавно опубликовала исследовательский отчет, в котором раскрыла уязвимость под названием «GrafanaGhost» в функции искусственного интеллекта платформы Grafana — открытой платформы для мониторинга и визуализации данных. Эта уязвимость позволяет злоумышленникам использовать методы «косвенной инъекции команд», чтобы обманом заставить ИИ-помощника передать конфиденциальные корпоративные данные на внешний сервер.

«Косвенная инъекция подсказок»: скрытый метод вывода данных
Исследователи объясняют, что встроенный ИИ-помощник Grafana позволяет пользователям запрашивать и анализировать данные мониторинга с помощью естественного языка. Однако злоумышленники могут встраивать вредоносные инструкции в внешние веб-страницы, доступные для Grafana.
Когда ИИ-помощник обрабатывает этот скомпрометированный контент, его можно обманом заставить обойти существующие средства безопасности и инициировать внешние запросы. Затем конфиденциальная информация передается в виде параметров URL на сервер, находящийся под контролем злоумышленника. Поскольку этот процесс не генерирует заметных сообщений об ошибках, обычные пользователи часто остаются в неведении относительно утечки.
Официальный ответ: уязвимость, не требующая нажатия кнопки, теперь исправлена
Комментируя эту уязвимость, Джо Макманус (Joe McManus), директор по безопасности Grafana Labs, подтвердил, что компания оперативно выпустила исправление после получения уведомления. Он подчеркнул ключевые ограничения этой уязвимости:
Неавтоматическая атака: это не уязвимость типа «zero-click» или самораспространяющаяся уязвимость.
Необходимое условие доступа: злоумышленники должны сначала получить доступ к устройству пользователя, чтобы взаимодействовать с AI-помощником.
Необходимость нескольких триггеров: для выполнения вредоносных операций обычно требуется несколько взаимодействий, а не одно действие.
Grafana Labs добавила, что на данный момент нет доказательств использования этой уязвимости в реальных условиях, и в ее облачном сервисе Grafana Cloud не было выявлено никаких утечек данных. Компания советует пользователям не поддаваться панике и рекомендует следить за обновлениями и переходить на исправленную, безопасную версию, чтобы поддерживать безопасную среду мониторинга.
Доходы компании Anthropropic растут стремительно; ее рыночная капитализация приближается к отметке в триллион долларов.
Отчеты показывают, что компания Anthropic добилась значительного роста доходов всего за несколько месяцев. Годовой объем ее доходов теперь превышает 30 миллиардов долларов — это более чем в три раза больше, чем было в конце прошлого года. Такой рост
Компания Apple удалила приложение Cal AI из-за несанкционированных покупок внутри приложения и манипулятивных способов осуществления платежей.
Недавнее удаление Apple приложения Cal AI, популярного приложения для отслеживания потребления пищи на основе искусственного интеллекта в рамках сервиса MyFitnessPal, подчеркивает строгое соблюдение Apple политик App Store в отношении внешних платеже
Тарификация Github Copilot на основе токенов вызывает возмущение среди разработчиков
Золотой век сервиса GitHub Copilot от Microsoft, по-видимому, подходит к концу, особенно для частных пользователей. Компания переходит от фиксированной абонентской платы к модели оплаты на основе токенов, что может значительно увеличить затраты. Боль











