В новом отчете раскрыты уязвимости системы безопасности Claude AI
Недавно компания Adversa, специализирующаяся на кибербезопасности, обнаружила критическую уязвимость в инструменте для разработки ИИ Claude Code, созданном компанией Anthropic. Исследователи выяснили, что при одновременной обработке инструментом ИИ чрезмерного количества подкоманд его встроенные механизмы защиты могут дать сбой.
Суть проблемы заключается в жестко запрограммированном ограничении внутри системы. Внутри системы используется переменная с именем «Maximum Safe Check Sub-Commands», максимальное значение которой ограничено 50.

Простая атака с переполнением может обойти ее защиту
В нормальных условиях Claude Code предназначен для автоматической блокировки операций с высоким риском, таких как сетевые запросы. Однако, как только цепочка инструкций превышает 50 элементов, система переключается с режима «автоматического отказа» на режим «запроса одобрения пользователя».
Злоумышленники могут воспользоваться этим, встраивая длинные цепочки инструкций в библиотеки вредоносного кода, обманывая ИИ и заставляя его выполнять опасные команды. Хотя система отображает предупреждающее сообщение, разработчики, погруженные в длительные рабочие сессии, часто из привычки нажимают «разрешить», что потенциально может привести к нарушению безопасности.
Эксперты по безопасности рекомендуют немедленно установить исправление
Эксперты предупреждают, что эта уязвимость, связанная с «сбоем проверки безопасности», несет существенный риск в автоматизированных конвейерах CI/CD. В неинтерактивных режимах программы могут по умолчанию пропускать запросы на разрешение и напрямую предоставлять ИИ права на выполнение.
Связанная статья
Внутри раскрыты подробности о Gemini следующего поколения: ограниченные вычислительные мощности, внутренние команды не сошлись в вопросах приоритетов разработки и распределения ресурсов
В отчётах указывается, что запуск долгожданной модели Gemini следующего поколения от Google был перенесён. Внутренние разногласия по вопросам приоритетов разработки и распределения ресурсов, в сочетании с ограниченной вычислительной мощностью и сложн
OpenAI отклоняет опасения по поводу замедления роста, заявляя о ускорении работы нескольких бизнес-подразделений
В ответ на внешнюю критику, связанную с замедлением роста продаж и невыполнением внутренних плановых показателей, лидер в области искусственного интеллекта компания OpenAI опубликовала во вторник, 28 апреля, уверенное заявление. Компания уточнила, чт
Кубок Суперкубок Alibaba: Qwen3.8-Max дебютирует с улучшенными инструментами для программирования и офисными приложениями
Alibaba официально представила Qwen3.8-Max — новую базовую большую модель с 2,4 триллиона параметров. Это значимое достижение в области искусственного интеллекта обеспечивает существенное улучшение производительности в ключевых областях, таких как пр
Рекомендации по связанным специальным темам
Комментарии (0)
Недавно компания Adversa, специализирующаяся на кибербезопасности, обнаружила критическую уязвимость в инструменте для разработки ИИ Claude Code, созданном компанией Anthropic. Исследователи выяснили, что при одновременной обработке инструментом ИИ чрезмерного количества подкоманд его встроенные механизмы защиты могут дать сбой.
Суть проблемы заключается в жестко запрограммированном ограничении внутри системы. Внутри системы используется переменная с именем «Maximum Safe Check Sub-Commands», максимальное значение которой ограничено 50.

Простая атака с переполнением может обойти ее защиту
В нормальных условиях Claude Code предназначен для автоматической блокировки операций с высоким риском, таких как сетевые запросы. Однако, как только цепочка инструкций превышает 50 элементов, система переключается с режима «автоматического отказа» на режим «запроса одобрения пользователя».
Злоумышленники могут воспользоваться этим, встраивая длинные цепочки инструкций в библиотеки вредоносного кода, обманывая ИИ и заставляя его выполнять опасные команды. Хотя система отображает предупреждающее сообщение, разработчики, погруженные в длительные рабочие сессии, часто из привычки нажимают «разрешить», что потенциально может привести к нарушению безопасности.
Эксперты по безопасности рекомендуют немедленно установить исправление
Эксперты предупреждают, что эта уязвимость, связанная с «сбоем проверки безопасности», несет существенный риск в автоматизированных конвейерах CI/CD. В неинтерактивных режимах программы могут по умолчанию пропускать запросы на разрешение и напрямую предоставлять ИИ права на выполнение.
Внутри раскрыты подробности о Gemini следующего поколения: ограниченные вычислительные мощности, внутренние команды не сошлись в вопросах приоритетов разработки и распределения ресурсов
В отчётах указывается, что запуск долгожданной модели Gemini следующего поколения от Google был перенесён. Внутренние разногласия по вопросам приоритетов разработки и распределения ресурсов, в сочетании с ограниченной вычислительной мощностью и сложн
OpenAI отклоняет опасения по поводу замедления роста, заявляя о ускорении работы нескольких бизнес-подразделений
В ответ на внешнюю критику, связанную с замедлением роста продаж и невыполнением внутренних плановых показателей, лидер в области искусственного интеллекта компания OpenAI опубликовала во вторник, 28 апреля, уверенное заявление. Компания уточнила, чт
Кубок Суперкубок Alibaba: Qwen3.8-Max дебютирует с улучшенными инструментами для программирования и офисными приложениями
Alibaba официально представила Qwen3.8-Max — новую базовую большую модель с 2,4 триллиона параметров. Это значимое достижение в области искусственного интеллекта обеспечивает существенное улучшение производительности в ключевых областях, таких как пр





Дом






