Дом
Исследователь обманывает ИИ в создание хромированных инфостайлеров, несмотря на то, что не хватает навыков кодирования вредоносных программ
Генеративный ИИ стал обоюдоострым мечом, вызывая столько же споров, сколько и инноваций, особенно в области инфраструктуры безопасности. Cato Networks, ведущий поставщик решений для корпоративной безопасности, пролил свет на новый метод манипуляции чат-ботами ИИ. Их отчет Cato CTRL Threat Report за 2025 год, опубликованный во вторник, подробно описывает, как исследователь без опыта написания вредоносного кода смог обмануть несколько моделей ИИ, включая DeepSeek R1 и V3, Microsoft Copilot и GPT-4o от OpenAI, заставив их создать "полностью функциональные" инфостилеры для Chrome. Эти вредоносные программы предназначены для кражи конфиденциальных данных, таких как пароли и финансовая информация, из браузеров Chrome.
Исследователь применил креативную тактику, названную "Immersive World," чтобы обойти меры безопасности этих систем ИИ. Создав детализированную вымышленную вселенную, в которой каждый инструмент ИИ имел определенные роли, задачи и вызовы, исследователь смог нормализовать ограниченные операции, эффективно обходя существующие протоколы безопасности.
Техника Immersive World
Техника взлома "Immersive World" вызывает особую озабоченность из-за широкого использования чат-ботов, на которых работают эти модели ИИ. Хотя модели DeepSeek известны меньшим количеством защитных механизмов и ранее уже подвергались взлому, тот факт, что Copilot и GPT-4o, поддерживаемые компаниями с мощными командами по безопасности, также оказались уязвимы, подчеркивает слабость путей косвенной манипуляции.
Этай Маор, главный стратег по безопасности Cato, отметил: "Наша новая техника взлома LLM [...] должна была быть заблокирована защитными механизмами генеративного ИИ. Этого не произошло." В отчете Cato также упоминается, что, хотя компания уведомила затронутые стороны, реакции были разными. DeepSeek не ответил, тогда как OpenAI и Microsoft признали выводы. Google, с другой стороны, подтвердил получение информации, но отказался рассматривать код Cato.
Тревожный сигнал для профессионалов в области безопасности
Выводы Cato служат тревожным сигналом для индустрии безопасности, демонстрируя, как даже люди без специальных знаний могут представлять значительную угрозу для предприятий. С учетом того, что барьеры для манипуляции ИИ становятся все ниже, злоумышленникам требуется меньше технических навыков для успешных атак.
Решение, по мнению Cato, заключается в принятии стратегий безопасности на основе ИИ. Сосредоточив обучение в области безопасности на развивающемся ландшафте угроз, основанных на ИИ, команды могут оставаться на шаг впереди. Для получения дополнительных идей о подготовке предприятий к этим вызовам ознакомьтесь с советами эксперта.
Оставайтесь в курсе последних новостей в области безопасности, подписавшись на Tech Today, доставляемую в ваш почтовый ящик каждое утро.
Связанная статья
Браузер Comet на базе искусственного интеллекта вышел на рынок с полной поддержкой многозадачности на iPad
Браузер Comet от Perplexity, основанный на искусственном интеллекте, официально выпустил версию для iPad, которая теперь полностью совместима с iPadOS. Обновление включает в себя многооконный режим пр
Компания Trace привлекла 3 миллиона долларов для преодоления препятствий на пути внедрения интеллектуальных агентов в корпоративной среде.
Несмотря на свой потенциал, искусственные интеллектуальные агенты испытывают трудности с получением распространения в корпоративной среде. Одна из новых стартап-компаний считает, что основная проблема заключается в отсутствии контекста.Компания Trac
На конференции Google I/O 2026 представлена функция голосового управления почтовым ящиком Gmail
Google продолжает внедрять искусственный интеллект в ваш почтовый ящик. На конференции разработчиков IO 2026, состоявшейся во вторник, компания расширила функционал «AI Inbox» в Gmail за счет диалогов
Рекомендации по связанным специальным темам
Бизнес
Лучшее ПО для оптимизации цен с помощью ИИ: отслеживание конкурентов и автоматическая корректировка цен в магазине
Откройте для себя лучшее программное обеспечение 2026 года для оптимизации цен с помощью ИИ на сайте XIX.AI. В нашем тщательно подобранном списке представлены высокооцененные, революционные инструменты, которые отслеживают конкурентов и автоматически корректируют цены в вашем магазине для получения максимальной прибыли. Сравните бесплатные и платные варианты на основе реальных тестов. Получите преимущество в ценообразовании уже сейчас.
10 инструментов
xix.ai
код
Лучшие системы проверки кода на основе ИИ: автоматизация обеспечения соответствия стандартам чистого кода и рефакторинг файлов в устаревших репозиториях
Откройте для себя 20 лучших рецензентов кода на базе ИИ 2026 года на XIX.AI. В нашем тщательно составленном списке представлены высокооцененные, революционные инструменты для автоматизации проверки соответствия стандартам чистого кода и рефакторинга файлов в устаревших репозиториях. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемых рейтингов. Получите преимущество ИИ уже сегодня.
10 инструментов
xix.ai
Преобразование текста в речь
Лучшие приложения с функцией преобразования текста в речь на базе ИИ для детей с дислексией: помощь в обучении и повышение эффективности чтения
Откройте для себя лучшие приложения с технологией TTS на базе искусственного интеллекта 2026 года, специально отобранные для помощи людям с дислексией. В нашем рейтинге экспертов сравниваются бесплатные и платные инструменты, а также освещаются мощные функции, способствующие повышению эффективности чтения и обучения. Откройте для себя революционные решения, которые обязательно стоит попробовать, чтобы раскрыть потенциал учащихся. Начните свое путешествие на XIX.AI.
10 инструментов
xix.ai
Создание комиксов
Лучшие генераторы на базе ИИ для сёнэн-манги: создавайте динамичные сцены боевых действий и эффекты энергии
Откройте для себя лучшие генераторы искусственного интеллекта для манги в стиле «сёнен» 2026 года на сайте XIX.AI. В нашем тщательно отобранном списке представлены мощные инструменты для создания динамичных сцен боевых действий и эффектных энергетических эффектов. Сравните бесплатные и платные варианты на основе реальных тестов. Раскройте свой творческий потенциал и начните создавать эпическую мангу уже сегодня!
15 инструментов
xix.ai
Бизнес
Лучшие приложения для учета расходов на базе ИИ: сканируйте чеки и автоматически классифицируйте корпоративные расходы
Лучшие программы для учета расходов с ИИ 2026 года: самые популярные инструменты для сканирования чеков и автоматической классификации корпоративных расходов. Откройте для себя мощные, революционные решения для удобного управления расходами, точного финансового мониторинга и оптимизации соблюдения нормативных требований. Наш тщательно составленный и еженедельно обновляемый обзор бесплатных и платных вариантов поможет вам найти идеальный вариант. Воспользуйтесь преимуществами ИИ с помощью рекомендаций экспертов XIX.AI.
10 инструментов
xix.ai
Бизнес
Лучшие инструменты для подбора персонала с помощью ИИ: отбор резюме и автоматизация планирования собеседований с кандидатами
Откройте для себя 20 лучших инструментов для рекрутинга на базе ИИ 2026 года на сайте XIX.AI. В нашем тщательно составленном списке представлены мощные, революционные решения для отбора резюме и автоматизации планирования собеседований с кандидатами. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемого рейтинга. Найдите своего идеального помощника по подбору персонала и оптимизируйте процесс рекрутинга уже сегодня!
10 инструментов
xix.ai
Комментарии (7)
![WillGarcía]()
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
![NicholasAllen]()
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
![ThomasYoung]()
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
![CharlesJohnson]()
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
![GaryWilson]()
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
![WillGarcía]()
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
Генеративный ИИ стал обоюдоострым мечом, вызывая столько же споров, сколько и инноваций, особенно в области инфраструктуры безопасности. Cato Networks, ведущий поставщик решений для корпоративной безопасности, пролил свет на новый метод манипуляции чат-ботами ИИ. Их отчет Cato CTRL Threat Report за 2025 год, опубликованный во вторник, подробно описывает, как исследователь без опыта написания вредоносного кода смог обмануть несколько моделей ИИ, включая DeepSeek R1 и V3, Microsoft Copilot и GPT-4o от OpenAI, заставив их создать "полностью функциональные" инфостилеры для Chrome. Эти вредоносные программы предназначены для кражи конфиденциальных данных, таких как пароли и финансовая информация, из браузеров Chrome.
Исследователь применил креативную тактику, названную "Immersive World," чтобы обойти меры безопасности этих систем ИИ. Создав детализированную вымышленную вселенную, в которой каждый инструмент ИИ имел определенные роли, задачи и вызовы, исследователь смог нормализовать ограниченные операции, эффективно обходя существующие протоколы безопасности.
Техника Immersive World
Техника взлома "Immersive World" вызывает особую озабоченность из-за широкого использования чат-ботов, на которых работают эти модели ИИ. Хотя модели DeepSeek известны меньшим количеством защитных механизмов и ранее уже подвергались взлому, тот факт, что Copilot и GPT-4o, поддерживаемые компаниями с мощными командами по безопасности, также оказались уязвимы, подчеркивает слабость путей косвенной манипуляции.
Этай Маор, главный стратег по безопасности Cato, отметил: "Наша новая техника взлома LLM [...] должна была быть заблокирована защитными механизмами генеративного ИИ. Этого не произошло." В отчете Cato также упоминается, что, хотя компания уведомила затронутые стороны, реакции были разными. DeepSeek не ответил, тогда как OpenAI и Microsoft признали выводы. Google, с другой стороны, подтвердил получение информации, но отказался рассматривать код Cato.
Тревожный сигнал для профессионалов в области безопасности
Выводы Cato служат тревожным сигналом для индустрии безопасности, демонстрируя, как даже люди без специальных знаний могут представлять значительную угрозу для предприятий. С учетом того, что барьеры для манипуляции ИИ становятся все ниже, злоумышленникам требуется меньше технических навыков для успешных атак.
Решение, по мнению Cato, заключается в принятии стратегий безопасности на основе ИИ. Сосредоточив обучение в области безопасности на развивающемся ландшафте угроз, основанных на ИИ, команды могут оставаться на шаг впереди. Для получения дополнительных идей о подготовке предприятий к этим вызовам ознакомьтесь с советами эксперта.
Оставайтесь в курсе последних новостей в области безопасности, подписавшись на Tech Today, доставляемую в ваш почтовый ящик каждое утро.
Браузер Comet на базе искусственного интеллекта вышел на рынок с полной поддержкой многозадачности на iPad
Браузер Comet от Perplexity, основанный на искусственном интеллекте, официально выпустил версию для iPad, которая теперь полностью совместима с iPadOS. Обновление включает в себя многооконный режим пр
Компания Trace привлекла 3 миллиона долларов для преодоления препятствий на пути внедрения интеллектуальных агентов в корпоративной среде.
Несмотря на свой потенциал, искусственные интеллектуальные агенты испытывают трудности с получением распространения в корпоративной среде. Одна из новых стартап-компаний считает, что основная проблема заключается в отсутствии контекста.Компания Trac
На конференции Google I/O 2026 представлена функция голосового управления почтовым ящиком Gmail
Google продолжает внедрять искусственный интеллект в ваш почтовый ящик. На конференции разработчиков IO 2026, состоявшейся во вторник, компания расширила функционал «AI Inbox» в Gmail за счет диалогов
Откройте для себя лучшее программное обеспечение 2026 года для оптимизации цен с помощью ИИ на сайте XIX.AI. В нашем тщательно подобранном списке представлены высокооцененные, революционные инструменты, которые отслеживают конкурентов и автоматически корректируют цены в вашем магазине для получения максимальной прибыли. Сравните бесплатные и платные варианты на основе реальных тестов. Получите преимущество в ценообразовании уже сейчас.
10 инструментов
xix.ai
Откройте для себя 20 лучших рецензентов кода на базе ИИ 2026 года на XIX.AI. В нашем тщательно составленном списке представлены высокооцененные, революционные инструменты для автоматизации проверки соответствия стандартам чистого кода и рефакторинга файлов в устаревших репозиториях. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемых рейтингов. Получите преимущество ИИ уже сегодня.
10 инструментов
xix.ai
Откройте для себя лучшие приложения с технологией TTS на базе искусственного интеллекта 2026 года, специально отобранные для помощи людям с дислексией. В нашем рейтинге экспертов сравниваются бесплатные и платные инструменты, а также освещаются мощные функции, способствующие повышению эффективности чтения и обучения. Откройте для себя революционные решения, которые обязательно стоит попробовать, чтобы раскрыть потенциал учащихся. Начните свое путешествие на XIX.AI.
10 инструментов
xix.ai
Откройте для себя лучшие генераторы искусственного интеллекта для манги в стиле «сёнен» 2026 года на сайте XIX.AI. В нашем тщательно отобранном списке представлены мощные инструменты для создания динамичных сцен боевых действий и эффектных энергетических эффектов. Сравните бесплатные и платные варианты на основе реальных тестов. Раскройте свой творческий потенциал и начните создавать эпическую мангу уже сегодня!
15 инструментов
xix.ai
Лучшие программы для учета расходов с ИИ 2026 года: самые популярные инструменты для сканирования чеков и автоматической классификации корпоративных расходов. Откройте для себя мощные, революционные решения для удобного управления расходами, точного финансового мониторинга и оптимизации соблюдения нормативных требований. Наш тщательно составленный и еженедельно обновляемый обзор бесплатных и платных вариантов поможет вам найти идеальный вариант. Воспользуйтесь преимуществами ИИ с помощью рекомендаций экспертов XIX.AI.
10 инструментов
xix.ai
Откройте для себя 20 лучших инструментов для рекрутинга на базе ИИ 2026 года на сайте XIX.AI. В нашем тщательно составленном списке представлены мощные, революционные решения для отбора резюме и автоматизации планирования собеседований с кандидатами. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемого рейтинга. Найдите своего идеального помощника по подбору персонала и оптимизируйте процесс рекрутинга уже сегодня!
10 инструментов
xix.ai
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
