Meta и Cisco интегрируют модели искусственного интеллекта с открытым исходным кодом в операции по обеспечению безопасности нового поколения

По мере того как кибератаки ускоряются со скоростью машин, большие языковые модели (LLM) с открытым исходным кодом быстро становятся основной инфраструктурой. Они позволяют стартапам и признанным лидерам в области кибербезопасности создавать и внедрять гибкие и экономически эффективные средства защиты от угроз, которые опережают время реакции человека.

Преимущества, присущие LLM с открытым исходным кодом, - быстрое развертывание, большая адаптивность и низкая стоимость - создают масштабируемый и безопасный фундамент для создания инфраструктуры. На прошедшей на прошлой неделе конференции RSAC 2025 компании Cisco, Meta и ProjectDiscovery представили новые LLM с открытым исходным кодом и инновационную поверхность атаки, созданную силами сообщества, что в совокупности формирует будущее кибербезопасности с открытым исходным кодом.

Главной темой RSAC в этом году стала эволюция открытых модулей LLM для расширения и укрепления инфраструктуры в больших масштабах.

ИИ с открытым исходным кодом близок к прорыву, за который давно выступают лидеры в области кибербезопасности: он позволит различным поставщикам услуг безопасности объединиться для борьбы со все более изощренными угрозами. С учетом анонсов RSAC видение совместного создания единого открытого ИИ и инфраструктуры стало ближе к реальности.

Как заявил в своем выступлении директор по продуктам Cisco Джиту Патель (Jeetu Patel), "наш реальный противник - это не наш конкурент, а противник. Мы должны обеспечить экосистему инструментами и единством для коллективного противодействия этим угрозам".

Патель подчеркнул актуальность этой сложной миссии: "ИИ меняет все, и кибербезопасность находится в эпицентре. Мы сталкиваемся с угрозами, которые действуют в масштабах машины, а не человека".

Cisco Foundation-sec-8B LLM определяет новую эру ИИ с открытым исходным кодом

Недавно созданная группа Foundation AI, возникшая в результате приобретения компании Robust Intelligence, специализируется на создании специфической инфраструктуры ИИ для кибербезопасности - одной из самых сложных областей. Построенный на архитектуре Meta Llama 3.1, этот открытый LLM с 8 миллиардами параметров не является перепрофилированным ИИ общего назначения. Он был специально создан и прошел тщательное обучение на наборе данных по кибербезопасности, подготовленном внутренней командой Cisco Foundation AI.

Ярон Сингер, вице-президент по ИИ и безопасности в Foundation, пишет: "По своей природе задачи в этой области являются одними из самых сложных для ИИ. Чтобы сделать технологию широко доступной, мы решили, что большинство работ Foundation AI должны быть открытыми". Открытые инновации создают дополнительные преимущества для отрасли, особенно в сфере кибербезопасности".

Опираясь на открытый исходный код, Cisco создала практическую основу для поставщиков услуг кибербезопасности - зачастую конкурентов с аналогичными предложениями - для совместной работы по созданию более мощных и единых систем защиты.

Сингер отмечает: "Внедряете ли вы его в существующие инструменты или создаете новые рабочие процессы, foundation-sec-8b адаптируется к конкретным требованиям вашей организации". Как сообщается в блоге Cisco, команды безопасности могут внедрять foundation-sec-8b на протяжении всего жизненного цикла системы безопасности. Среди предлагаемых вариантов использования - ускорение SOC, проактивная защита от угроз, инженерная поддержка, проверка кода с помощью искусственного интеллекта, проверка конфигурации и пользовательская интеграция.

Весовые модели и токенизатор Foundation-sec-8B доступны под лицензией Apache 2.0 на сайте Hugging Face, что дает предприятиям свободу настройки и развертывания без привязки к поставщику, сохраняя при этом соответствие нормативным требованиям и конфиденциальность. Cisco также планирует открыть исходные тексты для обучения, чтобы стимулировать инновации, основанные на сообществе.

Кибербезопасность в ДНК магистратуры

Cisco разработала модель, ориентированную на кибербезопасность и оптимизированную для SOC, DevSecOps и корпоративных команд безопасности. Модернизация типовой модели ИИ была бы невозможна, поэтому команда Foundation AI обучила ее, используя широкий и высококачественный набор данных по кибербезопасности.

Такой точный подход обеспечивает всестороннее понимание моделью реальных киберугроз, уязвимостей и стратегий защиты.

Основные наборы данных для обучения включали:

• Базы данных уязвимостей: Подробные CVE (Common Vulnerabilities and Exposures) и CWE (Common Weakness Enumerations) для выявления известных угроз и слабых мест.
• Сопоставления поведения угроз: Структурированная информация из проверенных систем безопасности, таких как MITRE ATT&CK, с подробным описанием методов и поведения злоумышленников.
• Отчеты по анализу угроз: Всесторонний анализ глобальных инцидентов кибербезопасности и возникающих угроз.
• Учебники "красной команды": Реальные тактики и стратегии проникновения.
• Резюме реальных инцидентов: Документально подтвержденные анализы нарушений кибербезопасности, инцидентов и путей их устранения.
• Руководства по соответствию и безопасности: Лучшие практики от ведущих организаций по стандартизации, включая фреймворки NIST и принципы безопасного кодирования OWASP.

Это специальное обучение позволяет Foundation-sec-8B решать сложные задачи кибербезопасности с большей точностью, более глубоким контекстом и более быстрым временем отклика по сравнению с моделями общего назначения.

Бенчмаркинг Foundation-sec-8B LLM

Технические бенчмарки Cisco показывают, что Foundation-sec-8B обеспечивает производительность в области кибербезопасности, не уступающую гораздо более крупным моделям:

Разработав модель фундамента для кибербезопасности, Cisco помогает командам SOC достичь более высокой эффективности благодаря расширенной аналитике угроз, не требуя при этом значительных затрат на инфраструктуру.

Как подробно описано в блоге "Foundation AI: надежный интеллект для кибербезопасности", стратегия Cisco решает общие проблемы внедрения ИИ, включая ограниченное соответствие общих моделей области, недостаточный набор данных и интеграцию устаревших систем. Foundation-sec-8B разработан для преодоления этих препятствий и эффективно работает на минимальном оборудовании - зачастую всего на одном или двух графических процессорах Nvidia A100.

Meta расширяет возможности защиты ИИ с открытым исходным кодом с помощью пакета AI Defenders

На выставке RSAC 2025 компания Meta подтвердила свою приверженность идее открытого исходного кода, расширив свой пакет AI Defenders Suite для защиты инфраструктуры генеративного ИИ. Обновленный набор инструментов с открытым исходным кодом включает Llama Guard 4, мультимодальный классификатор, который выявляет нарушения политики в тексте и изображениях, улучшая контроль за соблюдением требований в рабочих процессах ИИ.

Meta также представила LlamaFirewall, открытый фреймворк безопасности в реальном времени с модульными функциями. Среди них PromptGuard 2, который обнаруживает инъекции подсказок и попытки джейлбрейка; Agent Alignment Checks для контроля и защиты решений агентов ИИ; CodeShield, который проверяет сгенерированный код для поиска и устранения уязвимостей.

Prompt Guard 2 теперь предлагает два варианта с открытым исходным кодом: высокоточную 86-мегапараметровую модель и более упрощенную 22-мегапараметровую версию для сред с ограниченными ресурсами.

Кроме того, Meta запустила CyberSec Eval 4, пакет бенчмарков с открытым исходным кодом, разработанный совместно с CrowdStrike. Он включает CyberSOC Eval, который измеряет производительность ИИ в реалистичных сценариях SOC, и AutoPatchBench, который тестирует системы ИИ на автономное выявление и исправление недостатков программного обеспечения.

Meta также представила программу Llama Defenders Program, предлагающую ранний доступ к открытым инструментам безопасности на базе ИИ, таким как классификаторы конфиденциальных документов и обнаружение аудиоугроз. Private Processing, ориентированный на конфиденциальность ИИ на устройстве, также проходит пилотное тестирование в WhatsApp.

Nuclei от ProjectDiscovery: Инновации в области безопасности с открытым исходным кодом, управляемые сообществом

На конференции RSAC 2025 компания ProjectDiscovery получила награду "Самый инновационный стартап" в инновационной песочнице, что подчеркивает ее приверженность кибербезопасности с открытым исходным кодом. Флагманский инструмент компании, Nuclei, представляет собой настраиваемый сканер уязвимостей с открытым исходным кодом, который использует глобальное сообщество для быстрого обнаружения проблем в API, веб-сайтах, облачных средах и сетях.

Библиотека шаблонов Nuclei на основе YAML содержит более 11 000 шаблонов обнаружения, 3000 из которых соответствуют конкретным CVE, что позволяет выявлять угрозы в режиме реального времени. Энди Цао, главный операционный директор ProjectDiscovery, отметил: "Победа в 20-й ежегодной инновационной песочнице RSAC показывает, что модели с открытым исходным кодом могут процветать в сфере кибербезопасности. Это свидетельство нашего подхода к демократизации безопасности, основанного на участии сообщества".

Успехи ProjectDiscovery согласуются с циклом Gartner Hype Cycle for Open-Source Software на 2024 год, в котором инструменты ИИ и кибербезопасности с открытым исходным кодом находятся в фазе "Инновационный триггер". Gartner советует организациям создавать офисы программ с открытым исходным кодом (OSPO), внедрять фреймворки SBOM и обеспечивать соответствие нормативным требованиям с помощью надежного управления.

Практические рекомендации для руководителей служб безопасности

Решение Cisco Foundation-sec-8B, усовершенствования пакета AI Defenders Suite от Meta и Nuclei от ProjectDiscovery в совокупности иллюстрируют, что инновации в области кибербезопасности процветают, когда открытость, сотрудничество и опыт в разных областях объединяют организации. Эти и другие поставщики прокладывают путь к тому, чтобы каждый поставщик услуг кибербезопасности мог участвовать в создании более эффективных и доступных средств защиты.

Как подчеркнул Патель в своем выступлении, "это не просто теория - это реальность". С помощью специально разработанных моделей безопасности, доступных для всех, мы добьемся лучших результатов в области безопасности за меньшую стоимость, подкрепленную самыми современными аргументами".