вариант
Дом
Срочные новости
Содержание
JuanThomas
JuanThomas
28 мая 2026 г.

Хакер воспользовался искусственным интеллектом Anthropics Claude, чтобы сгенерировать вредоносный код и разместить более 670 вредоносных пакетов в реестре npm. Эти пакеты были созданы с целью похищения учетных данных разработчиков и их частного исходного кода. Этот инцидент подчеркивает, как генеративные технологии искусственного интеллекта снижают барьеры для кибератак и автоматизируют угрозы, связанные с цепочками поставок программного обеспечения, что вызывает опасения относительно безопасности использования ИИ.

Хакер воспользовался искусственным интеллектом Anthropics Claude, чтобы сгенерировать вредоносный код и разместить более 670 вредоносных пакетов в реестре npm. Эти пакеты были созданы с целью похищения учетных данных разработчиков и их частного исходного кода. Этот инцидент подчеркивает, как генеративные технологии искусственного интеллекта снижают барьеры для кибератак и автоматизируют угрозы, связанные с цепочками поставок программного обеспечения, что вызывает опасения относительно безопасности использования ИИ.
Автор DouglasThomas DouglasThomas 13 октября 2026 г.
Компания ByteDance Seed создала отдел по согласованию моделей и обеспечению готовности, возглавляемый Яном Лином, с целью повышения безопасности искусственного интеллекта. Это новое подразделение сосредоточено на обеспечении безопасности моделей интеллектуальных агентов и снижении рисков, связанных с химическими, биологическими, радиологическими и ядерными материалами (CBRN), посредством регулирования, оценки и обучения по согласованию моделей. Являясь первой китайской передовой лабораторией в области ИИ, создавшей специализированный отдел по безопасности, Seed стремится обеспечить работу моделей в безопасных пределах, сокращая случаи неправомерного использования и отклонений в поведении, а также содействуя открытому сотрудничеству с внешними исследователями для поддержки широкомасштабного применения.
OR