Дом
Claude использовался для создания вредоносных пакетов npm: более 670 скомпрометированных пакетов ставят под угрозу открытый исходный код
Недавний инцидент в сфере кибербезопасности продемонстрировал, как крупные языковые модели (LLM) используются в качестве инструмента для разработки вредоносного ПО. Исследователь в области безопасности Сиби Муса обнаружил злоумышленника под псевдонимом «mousie-5212-super-formatter», который использовал ИИ-систему Claude от компании Anthropic для генерации вредоносного кода и заражения экосистемы пакетов npm. За короткий промежуток времени в реестр npm было загружено более 670 вредоносных пакетов, что вызвало тревогу в связи со скоростью и автоматизацией таких атак.

В основе этой атаки лежит использование ИИ для радикального сокращения усилий, необходимых для создания вредоносного кода. Скомпрометированные пакеты npm нацелены на учетные данные разработчиков, такие как токены npm и токены GitHub, а также на исходный код из частных репозиториев GitHub. Злоумышленник использует Claude для создания связных скриптов похищения данных и выносит украденную информацию в свои собственные репозитории. Этот случай подчеркивает, как генеративный ИИ, повышая производительность, также служит мультипликатором силы для злоумышленников, усиливая как эффективность, так и автоматизацию.
Эксперты отмечают, что автоматизированное заражение пакетов и кража кода с помощью моделей ИИ знаменуют собой новый, интеллектуальный этап в атаках на цепочку поставок. Традиционные средства защиты на основе сигнатур неспособны противостоять крайне изменчивым и обманчивым вредоносным нагрузкам, которые может генерировать ИИ. С ростом популярности ИИ-помощников по программированию предотвращение их злоупотребления для эксплуатации уязвимостей и создания вредоносного ПО стало критически важным приоритетом в управлении безопасностью ИИ.
Связанная статья
AIGCPanel 2.0.0 — крупное обновление: движок рабочих процессов открывает новую эру автоматизированного создания цифровых персонажей
AIGCPanel, мощный инструмент для создания локальных цифровых персонажей, только что выпустил версию 2.0.0, которую называют «самым значительным обновлением на сегодняшний день». Эта радикальная перера
BuzzFeed открывает дочернюю компанию по разработке бесполезных приложений на базе ИИ
На фоне серьезного кризиса в сфере бизнеса бывший гигант цифровых медиа BuzzFeed запускает амбициозный эксперимент по самоспасению с использованием искусственного интеллекта. На недавней конференции S
Режим для взрослых в ChatGPT снова отложен; Ультрамен: в первую очередь — интеллект
OpenAI вновь откладывает запуск спорной функции, сосредоточившись на персонализации и проактивном взаимодействииВопрос о том, должен ли «неуместный контент» быть частью продуктивного инструмента ИИ, у
Рекомендации по связанным специальным темам
Комментарии (0)
Недавний инцидент в сфере кибербезопасности продемонстрировал, как крупные языковые модели (LLM) используются в качестве инструмента для разработки вредоносного ПО. Исследователь в области безопасности Сиби Муса обнаружил злоумышленника под псевдонимом «mousie-5212-super-formatter», который использовал ИИ-систему Claude от компании Anthropic для генерации вредоносного кода и заражения экосистемы пакетов npm. За короткий промежуток времени в реестр npm было загружено более 670 вредоносных пакетов, что вызвало тревогу в связи со скоростью и автоматизацией таких атак.

В основе этой атаки лежит использование ИИ для радикального сокращения усилий, необходимых для создания вредоносного кода. Скомпрометированные пакеты npm нацелены на учетные данные разработчиков, такие как токены npm и токены GitHub, а также на исходный код из частных репозиториев GitHub. Злоумышленник использует Claude для создания связных скриптов похищения данных и выносит украденную информацию в свои собственные репозитории. Этот случай подчеркивает, как генеративный ИИ, повышая производительность, также служит мультипликатором силы для злоумышленников, усиливая как эффективность, так и автоматизацию.
Эксперты отмечают, что автоматизированное заражение пакетов и кража кода с помощью моделей ИИ знаменуют собой новый, интеллектуальный этап в атаках на цепочку поставок. Традиционные средства защиты на основе сигнатур неспособны противостоять крайне изменчивым и обманчивым вредоносным нагрузкам, которые может генерировать ИИ. С ростом популярности ИИ-помощников по программированию предотвращение их злоупотребления для эксплуатации уязвимостей и создания вредоносного ПО стало критически важным приоритетом в управлении безопасностью ИИ.
AIGCPanel 2.0.0 — крупное обновление: движок рабочих процессов открывает новую эру автоматизированного создания цифровых персонажей
AIGCPanel, мощный инструмент для создания локальных цифровых персонажей, только что выпустил версию 2.0.0, которую называют «самым значительным обновлением на сегодняшний день». Эта радикальная перера
BuzzFeed открывает дочернюю компанию по разработке бесполезных приложений на базе ИИ
На фоне серьезного кризиса в сфере бизнеса бывший гигант цифровых медиа BuzzFeed запускает амбициозный эксперимент по самоспасению с использованием искусственного интеллекта. На недавней конференции S
Режим для взрослых в ChatGPT снова отложен; Ультрамен: в первую очередь — интеллект
OpenAI вновь откладывает запуск спорной функции, сосредоточившись на персонализации и проактивном взаимодействииВопрос о том, должен ли «неуместный контент» быть частью продуктивного инструмента ИИ, у











