Meta Усиливает Безопасность ИИ с Помощью Продвинутых Инструментов Llama
Meta выпустила новые инструменты безопасности Llama для укрепления разработки ИИ и защиты от новых угроз.
Эти усовершенствованные инструменты безопасности модели ИИ Llama сочетаются с новыми ресурсами Meta, чтобы поддержать команды кибербезопасности в использовании ИИ для защиты, стремясь повысить безопасность для всех участников экосистемы ИИ.
Разработчики, использующие модели Llama, теперь имеют доступ к улучшенным инструментам, доступным непосредственно на странице защиты Llama от Meta, Hugging Face и GitHub.
Llama Guard 4 вводит мультимодальные возможности, обеспечивая безопасность для текста и изображений, что критично для всё более визуальных приложений ИИ. Он интегрирован в новый API Llama от Meta, который сейчас находится в ограниченном предварительном доступе.
LlamaFirewall, новое дополнение, служит центром безопасности для систем ИИ, координируя модели безопасности и интегрируясь с защитными инструментами Meta для противодействия рискам, таким как атаки с внедрением промптов, генерация небезопасного кода или вредоносное поведение плагинов ИИ.
Meta также усовершенствовала Llama Prompt Guard. Обновлённая модель Prompt Guard 2 (86M) превосходно выявляет попытки взлома и внедрения промптов. Кроме того, компактная Prompt Guard 2 22M снижает задержки и вычислительные затраты до 75%, сохраняя высокую точность обнаружения для разработчиков, заботящихся о стоимости.
Помимо разработчиков, Meta поддерживает специалистов по кибербезопасности инструментами на базе ИИ для борьбы с кибератаками, отвечая на растущий спрос на передовые средства защиты.
Набор тестов CyberSec Eval 4 был обновлён, предоставляя организациям инструменты для оценки производительности ИИ в задачах безопасности. Он включает два новых дополнения:
- CyberSOC Eval: Разработан совместно с CrowdStrike, этот фреймворк оценивает эффективность ИИ в реальных условиях центров управления безопасностью, фокусируясь на обнаружении и реагировании на угрозы. Скоро будет доступен.
- AutoPatchBench: Тестирует способность Llama и других моделей ИИ выявлять и исправлять уязвимости кода до их эксплуатации.
Программа Llama Defenders от Meta предоставляет партнёрам и разработчикам индивидуальные решения для безопасности ИИ, комбинируя инструменты с открытым исходным кодом и ранний доступ для решения разнообразных задач.
Meta делится своим внутренним инструментом автоматической классификации конфиденциальных документов, который маркирует чувствительные документы для предотвращения несанкционированных утечек или злоупотреблений в системах ИИ, таких как RAG.
Для борьбы с аудио-мошенничествами, созданными ИИ, Meta делится детектором аудио, сгенерированного Llama, и детектором водяных знаков аудио Llama с партнёрами, такими как ZenDesk, Bell Canada и AT&T, для выявления мошеннических голосов ИИ в фишинговых или обманных попытках.
Meta также представила предварительную версию Private Processing для WhatsApp, позволяющую ИИ суммировать сообщения или составлять черновики ответов без доступа к содержимому сообщений, приоритизируя конфиденциальность пользователей.
Meta открыто делится своей моделью угроз, побуждая исследователей безопасности анализировать архитектуру до запуска, демонстрируя приверженность надёжным мерам конфиденциальности.
Этот всеобъемлющий набор обновлений безопасности ИИ от Meta укрепляет их экосистему ИИ, предоставляя технологическому сообществу инструменты для безопасной разработки и эффективной защиты.
Смотрите также: Microsoft раскрывает попытки мошенничества на $4B с использованием ИИ
Узнайте больше об ИИ и больших данных на AI & Big Data Expo в Амстердаме, Калифорнии и Лондоне, проходящих совместно с мероприятиями, такими как Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.
Ознакомьтесь с предстоящими событиями и вебинарами по корпоративным технологиям от TechForge здесь.
Связанная статья
Трамп отдает приоритет развитию ИИ, а не регулированию, стремясь опередить Китай
В среду администрация Трампа представила свой эпохальный План действий в области искусственного интеллекта, ознаменовавший решительный отход от политики администрации Байдена, не склонной к риску в об
YouTube интегрирует видеоинструмент Veo 3 AI непосредственно в платформу Shorts
В YouTube Shorts этим летом появится видеомодель Veo 3 AIГенеральный директор YouTube Нил Мохан во время своего выступления на "Каннских львах" сообщил, что передовая технология создания видео Veo 3 A
Облако Google обеспечивает прорыв в научных исследованиях и открытиях
Цифровая революция трансформирует научные методологии благодаря беспрецедентным вычислительным возможностям. Передовые технологии теперь дополняют теоретические основы и лабораторные эксперименты, спо
Комментарии (0)
Meta выпустила новые инструменты безопасности Llama для укрепления разработки ИИ и защиты от новых угроз.
Эти усовершенствованные инструменты безопасности модели ИИ Llama сочетаются с новыми ресурсами Meta, чтобы поддержать команды кибербезопасности в использовании ИИ для защиты, стремясь повысить безопасность для всех участников экосистемы ИИ.
Разработчики, использующие модели Llama, теперь имеют доступ к улучшенным инструментам, доступным непосредственно на странице защиты Llama от Meta, Hugging Face и GitHub.
Llama Guard 4 вводит мультимодальные возможности, обеспечивая безопасность для текста и изображений, что критично для всё более визуальных приложений ИИ. Он интегрирован в новый API Llama от Meta, который сейчас находится в ограниченном предварительном доступе.
LlamaFirewall, новое дополнение, служит центром безопасности для систем ИИ, координируя модели безопасности и интегрируясь с защитными инструментами Meta для противодействия рискам, таким как атаки с внедрением промптов, генерация небезопасного кода или вредоносное поведение плагинов ИИ.
Meta также усовершенствовала Llama Prompt Guard. Обновлённая модель Prompt Guard 2 (86M) превосходно выявляет попытки взлома и внедрения промптов. Кроме того, компактная Prompt Guard 2 22M снижает задержки и вычислительные затраты до 75%, сохраняя высокую точность обнаружения для разработчиков, заботящихся о стоимости.
Помимо разработчиков, Meta поддерживает специалистов по кибербезопасности инструментами на базе ИИ для борьбы с кибератаками, отвечая на растущий спрос на передовые средства защиты.
Набор тестов CyberSec Eval 4 был обновлён, предоставляя организациям инструменты для оценки производительности ИИ в задачах безопасности. Он включает два новых дополнения:
- CyberSOC Eval: Разработан совместно с CrowdStrike, этот фреймворк оценивает эффективность ИИ в реальных условиях центров управления безопасностью, фокусируясь на обнаружении и реагировании на угрозы. Скоро будет доступен.
- AutoPatchBench: Тестирует способность Llama и других моделей ИИ выявлять и исправлять уязвимости кода до их эксплуатации.
Программа Llama Defenders от Meta предоставляет партнёрам и разработчикам индивидуальные решения для безопасности ИИ, комбинируя инструменты с открытым исходным кодом и ранний доступ для решения разнообразных задач.
Meta делится своим внутренним инструментом автоматической классификации конфиденциальных документов, который маркирует чувствительные документы для предотвращения несанкционированных утечек или злоупотреблений в системах ИИ, таких как RAG.
Для борьбы с аудио-мошенничествами, созданными ИИ, Meta делится детектором аудио, сгенерированного Llama, и детектором водяных знаков аудио Llama с партнёрами, такими как ZenDesk, Bell Canada и AT&T, для выявления мошеннических голосов ИИ в фишинговых или обманных попытках.
Meta также представила предварительную версию Private Processing для WhatsApp, позволяющую ИИ суммировать сообщения или составлять черновики ответов без доступа к содержимому сообщений, приоритизируя конфиденциальность пользователей.
Meta открыто делится своей моделью угроз, побуждая исследователей безопасности анализировать архитектуру до запуска, демонстрируя приверженность надёжным мерам конфиденциальности.
Этот всеобъемлющий набор обновлений безопасности ИИ от Meta укрепляет их экосистему ИИ, предоставляя технологическому сообществу инструменты для безопасной разработки и эффективной защиты.
Смотрите также: Microsoft раскрывает попытки мошенничества на $4B с использованием ИИ
Узнайте больше об ИИ и больших данных на AI & Big Data Expo в Амстердаме, Калифорнии и Лондоне, проходящих совместно с мероприятиями, такими как Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.
Ознакомьтесь с предстоящими событиями и вебинарами по корпоративным технологиям от TechForge здесь.
Трамп отдает приоритет развитию ИИ, а не регулированию, стремясь опередить Китай
В среду администрация Трампа представила свой эпохальный План действий в области искусственного интеллекта, ознаменовавший решительный отход от политики администрации Байдена, не склонной к риску в об
YouTube интегрирует видеоинструмент Veo 3 AI непосредственно в платформу Shorts
В YouTube Shorts этим летом появится видеомодель Veo 3 AIГенеральный директор YouTube Нил Мохан во время своего выступления на "Каннских львах" сообщил, что передовая технология создания видео Veo 3 A
Облако Google обеспечивает прорыв в научных исследованиях и открытиях
Цифровая революция трансформирует научные методологии благодаря беспрецедентным вычислительным возможностям. Передовые технологии теперь дополняют теоретические основы и лабораторные эксперименты, спо
