Дом
Недостаток голосового ассистента Google Gemini позволяет хакерам отравлять ИИ за счёт искажённых аудиоуведомлений
Умные дома и голосовые помощники стали основными мишенями хакеров. Компания по кибербезопасности SafeBreach недавно сообщила, что интеллектуальный голосовой помощник Google Gemini имеет крайне скрытую уязвимость в области безопасности. Злоумышленники могут отправлять тщательно подготовленные уведомления через обычные каналы связи, такие как WhatsApp и SMS, манипулируя голосовым помощником с целью выполнения несанкционированных действий без ведома пользователя. Это может включать в себя получение контроля над устройствами умного дома или изменение списка контактов.
SafeBreach назвала эту угрозу для безопасности «Ложная синхронизация контекста». Команда разработчиков уже обнаружила эту уязвимость в августе прошлого года и сообщила об этом Google. Позже компания выпустила чрезвычайное исправление, обновив механизм классификации контента в середине ноября. Однако логика атаки, связанная с этой уязвимостью, по-прежнему служит предупреждением для обеспечения безопасности современных ИИ-систем.
С технической точки зрения суть атаки заключается в использовании логического недостатка в механизме безопасности Gemini под названием «Отложенное вызов инструментов». Проще говоря, хакеры фактически осуществляют своего рода «джейлбрейк» прямо на глазах у пользователя, обманывая систему с помощью умелых маскировок и заставляя Gemini ошибочно полагать, что пользователь лично одобрил какое-либо чувствительное действие.
В реальных ситуациях хакеры в основном используют два крайне обманчивых метода. Первый из них основан на использовании асимметрии информации через «многоязычную путаницу». Например, китайский пользователь, не владеющий тайским языком, во время поездки в Таиланд может получить уведомление с фишинговым содержанием на китайском и тайском языках. Видимый текст гласит: «Хотите включить свет?», за которым следует блок символов на тайском. Жертвы часто считают неразборчивый тайский текст мусором от системы, поэтому доверяют китайскому запросу и отвечают «да» голосовому помощнику. Однако на самом деле тайский текст содержит команду для ИИ игнорировать предыдущий текст и немедленно отключить электропитание в комнате.
Второй метод атаки направлен на уязвимости в голосовом взаимодействии. Поскольку Gemini не читает вслух URL-адреса гиперссылок при обработке текста с богатым форматированием, хакеры прячут злонамеренные инструкции внутри казалось бы нормальных текстовых гиперссылок. В этот момент пользователь слышит очень обычный повседневный запрос, но как только он отвечает устно «да», система считает, что пользователь одобрил чувствительные инструкции, содержащиеся в гиперссылке.
Эксперты по безопасности предупреждают, что потенциальный ущерб от таких уязвимостей «ложного контекста» нельзя недооценивать. С помощью подобных атак хакеры могут получить несанкционированный контроль над умными автомобилями или устройствами умного дома жертв, а также тихо изменять номера контактов в списке, создавая предпосылки для крупномасштабных мошеннических операций. Это также подчеркивает существующие пробелы в безопасности современных ИИ-помощников при обработке многоязычных контекстов, взаимодействия с текстом, содержащим голосовую информацию, и механизма «двойной проверки авторизации пользователя», что требует срочного внимания.
Связанная статья
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Соблюдение требований к автономным транспортным средствам в Калифорнии: новая эра штрафов, геозоны и 1 млн миль
Компания Guident эксплуатирует шаттл AuveTech в Южной Флориде, обслуживая маршрут протяженностью четыре мили в Вест-Палм-Бич и маршрут протяженностью одну милю в Бока-Ратоне с использованием своей тех
Рекомендации по связанным специальным темам
чат-бот
Лучшие приложения для ролевых чатов с ИИ для практики языка, подготовки к собеседованиям и ежедневной разговорной практики
2026 г. — новейшие, лучшие и наиболее рейтинговые приложения для ИИ-ролевых чатов, предназначенные для практики языка, подготовки к собеседованиям и ежедневной беглости речи! XIX.AI предлагает мощную коллекцию, меняющую правила игры: бесплатные и платные варианты, реальные тесты и обновляемые еженедельно рейтинги. Эти обязательные к использованию инструменты помогут вам улучшить навыки письма, преодолеть трудности с беглостью и повысить эффективность общения во всех повседневных ситуациях. Исследуйте сейчас, чтобы найти идеальный инструмент для развития вашего языка!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты разделения стемов с использованием ИИ для создания ремиксов, подготовки образцов звука и формирования финальных версий караоке.
2026 год: лучшие и наиболее высоко оценённые инструменты для разделения аудиосигналов с использованием ИИ, отобранные специально для работы над ремиксами, подготовки образцов звука и создания караоке-версий. Эти мощные революционные инструменты проходят реальные тесты, обеспечивая точную изоляцию аудиосигналов и значительно повышая производительность. XIX.AI предоставляет еженедельно обновляемый бесплатный справочник сравнения платных и бесплатных решений, который поможет вам найти оптимальный вариант, соответствующий вашим потребностям. Ознакомьтесь с ним прямо сейчас, чтобы раскрыть потенциал ИИ в вашей работе.
8 инструментов
xix.ai
Анализ данных
ИИ-копилоты для SQL, предназначенные для создания панелей управления доходами, анализа воронки продаж и отслеживания показателей продуктов.
2026 год: лучшие AI-ассистенты для SQL, занявшие верхние строчки рейтингов! XIX.AI собрал мощный набор инструментов, регулярно обновляемый на основе реальных тестов. Эти неотъемлемые инструменты помогают создавать точные дашборды с данными о доходах, анализировать каналы продаж и оперативно отслеживать показатели продуктов, значительно повышая производительность. Ознакомьтесь сейчас, чтобы найти идеальный инструмент для принятия решений на основе данных! 238 символов
9 инструментов
xix.ai
Музыкальная композиция
Лучшие инструменты для написания мелодий с помощью ИИ для черновиков песен
2026 год: лучшие, топовые и высокооценённые инструменты ИИ для написания мелодий для черновиков песен! XIX.AI подобрал высокоэффективную коллекцию, меняющую правила игры, которая прошла строгие реальные испытания, чтобы обеспечить лучший опыт написания. Вы можете найти подробные сравнения бесплатных и платных версий, точные рейтинги и обязательные к использованию варианты, разработанные, чтобы помочь вам создавать потрясающие черновики песен без усилий и значительно повысить вашу творческую продуктивность. Исследуйте сейчас, чтобы найти свой идеальный инструмент!
8 инструментов
xix.ai
чат-бот
Лучшие инструменты для тренировки разговоров с помощью ИИ для подготовки к собеседованиям
2026 г. — новейшие, лучшие и наиболее высоко оцененные инструменты для тренировки разговорных навыков с помощью ИИ для подготовки к собеседованиям уже доступны на XIX.AI! Эта тщательно отобранная подборка включает мощные, революционные инструменты, прошедшие строгие реальные испытания и обеспечивающие точную обратную связь. Вы найдете сравнение бесплатных и платных вариантов, а также подробные рейтинги, которые помогут вам выбрать наиболее подходящий инструмент, повышающий вашу уверенность и навыки. Исследуйте сейчас, чтобы найти идеальный инструмент для успешного прохождения собеседований!
12 инструментов
xix.ai
Дизайн и искусство
Лучшие инструменты для переноса стилей с помощью ИИ для творческих экспериментов
2026: лучшие и самые популярные инструменты для переноса стиля с помощью ИИ для творческих экспериментов! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать: они демонстрируют исключительные результаты, подтвержденные реальными тестами и тщательным рейтингом. Эти ведущие решения помогают творческим людям значительно повысить продуктивность, ускоряя создание контента и открывая безграничные творческие возможности. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент и начать творить уже сегодня!
9 инструментов
xix.ai
Комментарии (0)
Умные дома и голосовые помощники стали основными мишенями хакеров. Компания по кибербезопасности SafeBreach недавно сообщила, что интеллектуальный голосовой помощник Google
SafeBreach назвала эту угрозу для безопасности «Ложная синхронизация контекста». Команда разработчиков уже обнаружила эту уязвимость в августе прошлого года и сообщила об этом Google. Позже компания выпустила чрезвычайное исправление, обновив механизм классификации контента в середине ноября. Однако логика атаки, связанная с этой уязвимостью, по-прежнему служит предупреждением для обеспечения безопасности современных ИИ-систем.
С технической точки зрения суть атаки заключается в использовании логического недостатка в механизме безопасности Gemini под названием «Отложенное вызов инструментов». Проще говоря, хакеры фактически осуществляют своего рода «джейлбрейк» прямо на глазах у пользователя, обманывая систему с помощью умелых маскировок и заставляя Gemini ошибочно полагать, что пользователь лично одобрил какое-либо чувствительное действие.
В реальных ситуациях хакеры в основном используют два крайне обманчивых метода. Первый из них основан на использовании асимметрии информации через «многоязычную путаницу». Например, китайский пользователь, не владеющий тайским языком, во время поездки в Таиланд может получить уведомление с фишинговым содержанием на китайском и тайском языках. Видимый текст гласит: «Хотите включить свет?», за которым следует блок символов на тайском. Жертвы часто считают неразборчивый тайский текст мусором от системы, поэтому доверяют китайскому запросу и отвечают «да» голосовому помощнику. Однако на самом деле тайский текст содержит команду для ИИ игнорировать предыдущий текст и немедленно отключить электропитание в комнате.
Второй метод атаки направлен на уязвимости в голосовом взаимодействии. Поскольку Gemini не читает вслух URL-адреса гиперссылок при обработке текста с богатым форматированием, хакеры прячут злонамеренные инструкции внутри казалось бы нормальных текстовых гиперссылок. В этот момент пользователь слышит очень обычный повседневный запрос, но как только он отвечает устно «да», система считает, что пользователь одобрил чувствительные инструкции, содержащиеся в гиперссылке.
Эксперты по безопасности предупреждают, что потенциальный ущерб от таких уязвимостей «ложного контекста» нельзя недооценивать. С помощью подобных атак хакеры могут получить несанкционированный контроль над умными автомобилями или устройствами умного дома жертв, а также тихо изменять номера контактов в списке, создавая предпосылки для крупномасштабных мошеннических операций. Это также подчеркивает существующие пробелы в безопасности современных ИИ-помощников при обработке многоязычных контекстов, взаимодействия с текстом, содержащим голосовую информацию, и механизма «двойной проверки авторизации пользователя», что требует срочного внимания.
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Соблюдение требований к автономным транспортным средствам в Калифорнии: новая эра штрафов, геозоны и 1 млн миль
Компания Guident эксплуатирует шаттл AuveTech в Южной Флориде, обслуживая маршрут протяженностью четыре мили в Вест-Палм-Бич и маршрут протяженностью одну милю в Бока-Ратоне с использованием своей тех
2026 г. — новейшие, лучшие и наиболее рейтинговые приложения для ИИ-ролевых чатов, предназначенные для практики языка, подготовки к собеседованиям и ежедневной беглости речи! XIX.AI предлагает мощную коллекцию, меняющую правила игры: бесплатные и платные варианты, реальные тесты и обновляемые еженедельно рейтинги. Эти обязательные к использованию инструменты помогут вам улучшить навыки письма, преодолеть трудности с беглостью и повысить эффективность общения во всех повседневных ситуациях. Исследуйте сейчас, чтобы найти идеальный инструмент для развития вашего языка!
10 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые инструменты для разделения аудиосигналов с использованием ИИ, отобранные специально для работы над ремиксами, подготовки образцов звука и создания караоке-версий. Эти мощные революционные инструменты проходят реальные тесты, обеспечивая точную изоляцию аудиосигналов и значительно повышая производительность. XIX.AI предоставляет еженедельно обновляемый бесплатный справочник сравнения платных и бесплатных решений, который поможет вам найти оптимальный вариант, соответствующий вашим потребностям. Ознакомьтесь с ним прямо сейчас, чтобы раскрыть потенциал ИИ в вашей работе.
8 инструментов
xix.ai
2026 год: лучшие AI-ассистенты для SQL, занявшие верхние строчки рейтингов! XIX.AI собрал мощный набор инструментов, регулярно обновляемый на основе реальных тестов. Эти неотъемлемые инструменты помогают создавать точные дашборды с данными о доходах, анализировать каналы продаж и оперативно отслеживать показатели продуктов, значительно повышая производительность. Ознакомьтесь сейчас, чтобы найти идеальный инструмент для принятия решений на основе данных! 238 символов
9 инструментов
xix.ai
2026 год: лучшие, топовые и высокооценённые инструменты ИИ для написания мелодий для черновиков песен! XIX.AI подобрал высокоэффективную коллекцию, меняющую правила игры, которая прошла строгие реальные испытания, чтобы обеспечить лучший опыт написания. Вы можете найти подробные сравнения бесплатных и платных версий, точные рейтинги и обязательные к использованию варианты, разработанные, чтобы помочь вам создавать потрясающие черновики песен без усилий и значительно повысить вашу творческую продуктивность. Исследуйте сейчас, чтобы найти свой идеальный инструмент!
8 инструментов
xix.ai
2026 г. — новейшие, лучшие и наиболее высоко оцененные инструменты для тренировки разговорных навыков с помощью ИИ для подготовки к собеседованиям уже доступны на XIX.AI! Эта тщательно отобранная подборка включает мощные, революционные инструменты, прошедшие строгие реальные испытания и обеспечивающие точную обратную связь. Вы найдете сравнение бесплатных и платных вариантов, а также подробные рейтинги, которые помогут вам выбрать наиболее подходящий инструмент, повышающий вашу уверенность и навыки. Исследуйте сейчас, чтобы найти идеальный инструмент для успешного прохождения собеседований!
12 инструментов
xix.ai
2026: лучшие и самые популярные инструменты для переноса стиля с помощью ИИ для творческих экспериментов! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать: они демонстрируют исключительные результаты, подтвержденные реальными тестами и тщательным рейтингом. Эти ведущие решения помогают творческим людям значительно повысить продуктивность, ускоряя создание контента и открывая безграничные творческие возможности. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент и начать творить уже сегодня!
9 инструментов
xix.ai
