Meta Усиливает Безопасность ИИ с Помощью Продвинутых Инструментов Llama
Meta выпустила новые инструменты безопасности Llama для укрепления разработки ИИ и защиты от новых угроз.
Эти усовершенствованные инструменты безопасности модели ИИ Llama сочетаются с новыми ресурсами Meta, чтобы поддержать команды кибербезопасности в использовании ИИ для защиты, стремясь повысить безопасность для всех участников экосистемы ИИ.
Разработчики, использующие модели Llama, теперь имеют доступ к улучшенным инструментам, доступным непосредственно на странице защиты Llama от Meta, Hugging Face и GitHub.
Llama Guard 4 вводит мультимодальные возможности, обеспечивая безопасность для текста и изображений, что критично для всё более визуальных приложений ИИ. Он интегрирован в новый API Llama от Meta, который сейчас находится в ограниченном предварительном доступе.
LlamaFirewall, новое дополнение, служит центром безопасности для систем ИИ, координируя модели безопасности и интегрируясь с защитными инструментами Meta для противодействия рискам, таким как атаки с внедрением промптов, генерация небезопасного кода или вредоносное поведение плагинов ИИ.
Meta также усовершенствовала Llama Prompt Guard. Обновлённая модель Prompt Guard 2 (86M) превосходно выявляет попытки взлома и внедрения промптов. Кроме того, компактная Prompt Guard 2 22M снижает задержки и вычислительные затраты до 75%, сохраняя высокую точность обнаружения для разработчиков, заботящихся о стоимости.
Помимо разработчиков, Meta поддерживает специалистов по кибербезопасности инструментами на базе ИИ для борьбы с кибератаками, отвечая на растущий спрос на передовые средства защиты.
Набор тестов CyberSec Eval 4 был обновлён, предоставляя организациям инструменты для оценки производительности ИИ в задачах безопасности. Он включает два новых дополнения:
- CyberSOC Eval: Разработан совместно с CrowdStrike, этот фреймворк оценивает эффективность ИИ в реальных условиях центров управления безопасностью, фокусируясь на обнаружении и реагировании на угрозы. Скоро будет доступен.
- AutoPatchBench: Тестирует способность Llama и других моделей ИИ выявлять и исправлять уязвимости кода до их эксплуатации.
Программа Llama Defenders от Meta предоставляет партнёрам и разработчикам индивидуальные решения для безопасности ИИ, комбинируя инструменты с открытым исходным кодом и ранний доступ для решения разнообразных задач.
Meta делится своим внутренним инструментом автоматической классификации конфиденциальных документов, который маркирует чувствительные документы для предотвращения несанкционированных утечек или злоупотреблений в системах ИИ, таких как RAG.
Для борьбы с аудио-мошенничествами, созданными ИИ, Meta делится детектором аудио, сгенерированного Llama, и детектором водяных знаков аудио Llama с партнёрами, такими как ZenDesk, Bell Canada и AT&T, для выявления мошеннических голосов ИИ в фишинговых или обманных попытках.
Meta также представила предварительную версию Private Processing для WhatsApp, позволяющую ИИ суммировать сообщения или составлять черновики ответов без доступа к содержимому сообщений, приоритизируя конфиденциальность пользователей.
Meta открыто делится своей моделью угроз, побуждая исследователей безопасности анализировать архитектуру до запуска, демонстрируя приверженность надёжным мерам конфиденциальности.
Этот всеобъемлющий набор обновлений безопасности ИИ от Meta укрепляет их экосистему ИИ, предоставляя технологическому сообществу инструменты для безопасной разработки и эффективной защиты.
Смотрите также: Microsoft раскрывает попытки мошенничества на $4B с использованием ИИ
Узнайте больше об ИИ и больших данных на AI & Big Data Expo в Амстердаме, Калифорнии и Лондоне, проходящих совместно с мероприятиями, такими как Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.
Ознакомьтесь с предстоящими событиями и вебинарами по корпоративным технологиям от TechForge здесь.
Связанная статья
Meta предлагает высокую зарплату для талантов в области ИИ, опровергая слухи о бонусах в $100 млн
Meta привлекает исследователей ИИ в свою новую лабораторию суперразума с многомиллионными компенсационными пакетами. Однако утверждения о бонусах за подписание контракта в размере $100 миллионов не со
NotebookLM представляет курируемые тетради от ведущих изданий и экспертов
Google совершенствует свой инструмент для исследований и заметок на базе ИИ, NotebookLM, чтобы сделать его всеобъемлющим центром знаний. В понедельник компания представила курируемую коллекцию тетраде
Meta усиливает меры по борьбе с неоригинальным контентом на Facebook
В понедельник Meta объявила о более строгих мерах по борьбе с аккаунтами, публикующими неоригинальный контент на Facebook, направленных на тех, кто неоднократно использует чужие тексты, изображения ил
Комментарии (0)
Meta выпустила новые инструменты безопасности Llama для укрепления разработки ИИ и защиты от новых угроз.
Эти усовершенствованные инструменты безопасности модели ИИ Llama сочетаются с новыми ресурсами Meta, чтобы поддержать команды кибербезопасности в использовании ИИ для защиты, стремясь повысить безопасность для всех участников экосистемы ИИ.
Разработчики, использующие модели Llama, теперь имеют доступ к улучшенным инструментам, доступным непосредственно на странице защиты Llama от Meta, Hugging Face и GitHub.
Llama Guard 4 вводит мультимодальные возможности, обеспечивая безопасность для текста и изображений, что критично для всё более визуальных приложений ИИ. Он интегрирован в новый API Llama от Meta, который сейчас находится в ограниченном предварительном доступе.
LlamaFirewall, новое дополнение, служит центром безопасности для систем ИИ, координируя модели безопасности и интегрируясь с защитными инструментами Meta для противодействия рискам, таким как атаки с внедрением промптов, генерация небезопасного кода или вредоносное поведение плагинов ИИ.
Meta также усовершенствовала Llama Prompt Guard. Обновлённая модель Prompt Guard 2 (86M) превосходно выявляет попытки взлома и внедрения промптов. Кроме того, компактная Prompt Guard 2 22M снижает задержки и вычислительные затраты до 75%, сохраняя высокую точность обнаружения для разработчиков, заботящихся о стоимости.
Помимо разработчиков, Meta поддерживает специалистов по кибербезопасности инструментами на базе ИИ для борьбы с кибератаками, отвечая на растущий спрос на передовые средства защиты.
Набор тестов CyberSec Eval 4 был обновлён, предоставляя организациям инструменты для оценки производительности ИИ в задачах безопасности. Он включает два новых дополнения:
- CyberSOC Eval: Разработан совместно с CrowdStrike, этот фреймворк оценивает эффективность ИИ в реальных условиях центров управления безопасностью, фокусируясь на обнаружении и реагировании на угрозы. Скоро будет доступен.
- AutoPatchBench: Тестирует способность Llama и других моделей ИИ выявлять и исправлять уязвимости кода до их эксплуатации.
Программа Llama Defenders от Meta предоставляет партнёрам и разработчикам индивидуальные решения для безопасности ИИ, комбинируя инструменты с открытым исходным кодом и ранний доступ для решения разнообразных задач.
Meta делится своим внутренним инструментом автоматической классификации конфиденциальных документов, который маркирует чувствительные документы для предотвращения несанкционированных утечек или злоупотреблений в системах ИИ, таких как RAG.
Для борьбы с аудио-мошенничествами, созданными ИИ, Meta делится детектором аудио, сгенерированного Llama, и детектором водяных знаков аудио Llama с партнёрами, такими как ZenDesk, Bell Canada и AT&T, для выявления мошеннических голосов ИИ в фишинговых или обманных попытках.
Meta также представила предварительную версию Private Processing для WhatsApp, позволяющую ИИ суммировать сообщения или составлять черновики ответов без доступа к содержимому сообщений, приоритизируя конфиденциальность пользователей.
Meta открыто делится своей моделью угроз, побуждая исследователей безопасности анализировать архитектуру до запуска, демонстрируя приверженность надёжным мерам конфиденциальности.
Этот всеобъемлющий набор обновлений безопасности ИИ от Meta укрепляет их экосистему ИИ, предоставляя технологическому сообществу инструменты для безопасной разработки и эффективной защиты.
Смотрите также: Microsoft раскрывает попытки мошенничества на $4B с использованием ИИ
Узнайте больше об ИИ и больших данных на AI & Big Data Expo в Амстердаме, Калифорнии и Лондоне, проходящих совместно с мероприятиями, такими как Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.
Ознакомьтесь с предстоящими событиями и вебинарами по корпоративным технологиям от TechForge здесь.
Meta предлагает высокую зарплату для талантов в области ИИ, опровергая слухи о бонусах в $100 млн
Meta привлекает исследователей ИИ в свою новую лабораторию суперразума с многомиллионными компенсационными пакетами. Однако утверждения о бонусах за подписание контракта в размере $100 миллионов не со
NotebookLM представляет курируемые тетради от ведущих изданий и экспертов
Google совершенствует свой инструмент для исследований и заметок на базе ИИ, NotebookLM, чтобы сделать его всеобъемлющим центром знаний. В понедельник компания представила курируемую коллекцию тетраде
Meta усиливает меры по борьбе с неоригинальным контентом на Facebook
В понедельник Meta объявила о более строгих мерах по борьбе с аккаунтами, публикующими неоригинальный контент на Facebook, направленных на тех, кто неоднократно использует чужие тексты, изображения ил
