Anthropic внедряет усовершенствованную модель искусственного интеллекта после проверки безопасности

# Nvidia # Google # Microsoft # Anthropic # agentic ai # AI cybersecurity # ai security # amazon web services # Claude Mythos # CrowdStrike # cybersecurity # open source security # Palo Alto Networks # Project Glasswing # vulnerability # zero-day

Самая передовая модель искусственного интеллекта компании Anthropic уже выявила тысячи уязвимостей в системе кибербезопасности всех основных операционных систем и веб-браузеров. Вместо того чтобы обнародовать эти данные, компания незаметно предоставила их организациям, отвечающим за защиту основной инфраструктуры Интернета.

Эта модель называется Claude Mythos Preview, а инициатива — Project Glasswing.

В число первых партнеров входят Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks.

Помимо этой основной группы, Anthropic предоставила доступ более чем 40 дополнительным организациям, которые разрабатывают или обслуживают критически важную программную инфраструктуру. Компания выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview в рамках всей инициативы, а также 4 миллиона долларов в виде прямых пожертвований организациям, занимающимся безопасностью открытого исходного кода.

Модель, превзошедшая собственные ориентиры

Mythos Preview не был специально обучен для кибербезопасности. Anthropic заявила, что его возможности «появились как естественное следствие широких улучшений в генерации кода, рассуждениях и автономной работе». Те же самые усовершенствования, которые делают модель способной исправлять уязвимости, также усиливают ее способность обнаруживать и использовать их.

Эта двойная способность имеет большое значение. Mythos Preview продвинулся до такой степени, что в значительной мере исчерпал существующие тесты безопасности, что заставило Anthropic сосредоточиться на новых, реальных задачах — в частности, на уязвимостях «нулевого дня». Это недостатки безопасности, ранее неизвестные самим разработчикам программного обеспечения.

Среди его открытий — 27-летняя ошибка в OpenBSD, операционной системе, известной своей высокой безопасностью. В другом случае модель самостоятельно обнаружила и использовала 17-летнюю уязвимость удаленного выполнения кода в FreeBSD — CVE-2026-4747. Эта уязвимость позволяет любому неавторизованному пользователю в Интернете получить полный контроль над сервером, на котором работает служба NFS. Помимо первоначальной инструкции по поиску ошибки, вмешательство человека не требовалось.

Николас Карлини из исследовательской группы Anthropic подчеркнул способность модели объединять уязвимости в цепочки: «Эта модель может создавать эксплойты из трех, четырех, а иногда и пяти различных уязвимостей, которые, действуя последовательно, приводят к очень сложным результатам. За последние несколько недель я обнаружил больше ошибок, чем за всю свою предыдущую карьеру».

Почему модель не выпускается в открытый доступ?

«Мы не планируем делать Claude Mythos Preview общедоступным из-за его расширенных возможностей в области кибербезопасности», — сказал Ньютон Ченг, руководитель киберкоманды Frontier Red Team в Anthropic. «Учитывая быстрые темпы развития ИИ, такие возможности, вероятно, скоро станут широко распространенными и могут попасть в руки тех, кто не сможет использовать их безопасно. Потенциальные последствия для экономики, общественной безопасности и национальной безопасности могут быть серьезными».

Эта обеспокоенность не является теоретической. Ранее компания Anthropic раскрыла то, что она назвала первым задокументированным случаем кибератаки, осуществленной преимущественно с помощью ИИ: китайская группа, спонсируемая государством, использовала ИИ-агентов для автономного проникновения примерно в 30 глобальных целей, причем ИИ самостоятельно выполнял большинство тактических операций.

Компания также в частном порядке проинформировала высокопоставленных должностных лиц правительства США о полных возможностях Mythos Preview. Разведывательное сообщество в настоящее время активно оценивает, как такая модель может изменить как наступательные, так и оборонительные кибероперации.

Решение проблемы открытого исходного кода

Ключевой аспект проекта Glasswing выходит за рамки его основных партнеров: обеспечение безопасности программного обеспечения с открытым исходным кодом. Джим Землин, генеральный директор Linux Foundation, прямо заявил: «Исторически сложилось так, что экспертиза в области безопасности была роскошью для организаций с большими командами по безопасности. Разработчики программного обеспечения с открытым исходным кодом, чье программное обеспечение лежит в основе большей части критически важной инфраструктуры мира, часто были вынуждены самостоятельно решать вопросы безопасности».

Чтобы решить эту проблему, компания Anthropic пожертвовала 2,5 миллиона долларов организациям Alpha-Omega и OpenSSF через Linux Foundation, а также 1,5 миллиона долларов Apache Software Foundation. Это дает разработчикам критически важных проектов с открытым исходным кодом доступ к сканированию уязвимостей с помощью искусственного интеллекта в масштабах, ранее недоступных для них.

Что будет дальше

Anthropic заявляет, что ее долгосрочной целью является масштабное развертывание моделей класса Mythos, но только после внедрения новых мер безопасности. Компания планирует сначала внедрить эти меры безопасности в предстоящей модели Claude Opus, что позволит доработать их с помощью менее рискованной системы, прежде чем применять их к Mythos Preview.

Конкурентная среда уже меняется. Когда в феврале OpenAI выпустила GPT-5.3-Codex, она обозначила эту модель как первую, которую классифицировала как «высокопроизводительную» для кибербезопасности в рамках своей системы оценки готовности (Preparedness Framework). Инициатива Glasswing от Anthropic сигнализирует о том, что ведущие лаборатории в области ИИ рассматривают контролируемое, ограниченное внедрение — а не открытый выпуск — в качестве формирующегося стандарта для моделей с таким уровнем возможностей.

Сохранится ли этот стандарт по мере того, как эти мощные возможности станут более распространенными, остается открытым вопросом, на который ни одна отдельная инициатива не может дать однозначного ответа.

См. также: Отказ Anthropic вооружать ИИ — именно то, что нужно Великобритании

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие является частью TechEx и проходит одновременно с другими ведущими технологическими мероприятиями, включая Cyber Security & Cloud Expo. Нажмите здесь дляполучения дополнительной информации.

AI News поддерживается TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям здесь.

Связанная статья

Комментарии (0)