Meta Renforce la Sécurité IA avec des Outils Llama Avancés
Meta a publié de nouveaux outils de sécurité Llama pour renforcer le développement IA et protéger contre les menaces émergentes.
Ces outils de sécurité du modèle IA Llama améliorés sont associés aux nouvelles ressources de Meta pour permettre aux équipes de cybersécurité d'exploiter l'IA pour la défense, visant à améliorer la sécurité pour tous les acteurs de l'IA.
Les développeurs utilisant les modèles Llama ont désormais accès à des outils améliorés, disponibles directement sur la page Llama Protections de Meta, Hugging Face et GitHub.
Llama Guard 4 introduit des capacités multimodales, permettant l'application de la sécurité pour le texte et les images, crucial pour les applications IA de plus en plus visuelles. Il est intégré à la nouvelle API Llama de Meta, actuellement en prévisualisation limitée.
LlamaFirewall, une nouvelle addition, sert de centre de sécurité pour les systèmes IA, coordonnant les modèles de sécurité et s'intégrant aux outils de protection de Meta pour contrer les risques comme les attaques par injection de prompts, la génération de code non sécurisé ou les comportements malveillants de plug-ins IA.
Meta a également affiné Llama Prompt Guard. Le modèle mis à jour Prompt Guard 2 (86M) excelle dans la détection des tentatives de jailbreak et des injections de prompts. De plus, le compact Prompt Guard 2 22M réduit la latence et les coûts de calcul jusqu'à 75 %, maintenant une détection robuste pour les développeurs soucieux des coûts.
Au-delà des développeurs, Meta soutient les professionnels de la cybersécurité avec des outils pilotés par IA pour combattre les cyberattaques, répondant à la demande croissante de défenses avancées.
La suite de benchmarks CyberSec Eval 4 a été remaniée, offrant aux organisations des outils pour évaluer les performances IA dans les tâches de sécurité. Elle inclut deux nouvelles additions :
- CyberSOC Eval : Développé avec CrowdStrike, ce cadre évalue l'efficacité de l'IA dans des environnements réels de centres d'opérations de sécurité, en se concentrant sur la détection et la réponse aux menaces. Il sera bientôt disponible.
- AutoPatchBench : Cela teste la capacité de Llama et d'autres modèles IA à identifier et corriger les vulnérabilités de code avant leur exploitation.
Le programme Llama Defenders de Meta fournit aux partenaires et développeurs des solutions de sécurité IA personnalisées, combinant des outils open-source et en accès anticipé pour répondre à divers défis.
Meta partage son outil interne de classification automatique des documents sensibles, qui étiquette les documents sensibles pour prévenir les fuites non autorisées ou l'utilisation abusive dans des systèmes IA comme les configurations RAG.
Pour lutter contre les escroqueries audio générées par IA, Meta partage le détecteur audio généré par Llama et le détecteur de filigrane audio Llama avec des partenaires comme ZenDesk, Bell Canada et AT&T pour identifier les voix IA frauduleuses dans les tentatives de phishing ou de fraude.
Meta a également prévisualisé le traitement privé pour WhatsApp, permettant à l'IA de résumer les messages ou de rédiger des réponses sans accéder au contenu des messages, en priorisant la confidentialité des utilisateurs.
Meta partage ouvertement son modèle de menace, encourageant les chercheurs en sécurité à examiner l'architecture avant le lancement, démontrant un engagement envers des mesures de confidentialité robustes.
Cet ensemble complet de mises à jour de sécurité IA de Meta renforce leur écosystème IA tout en équipant la communauté technologique d'outils pour un développement sécurisé et une défense efficace.
Voir aussi : Microsoft découvre 4 milliards de dollars en tentatives de fraude pilotées par IA
Découvrez plus sur l'IA et les big data à l'AI & Big Data Expo à Amsterdam, Californie et Londres, co-localisé avec des événements comme la conférence sur l'automatisation intelligente, BlockX, la semaine de la transformation numérique, et l'expo sur la cybersécurité et le cloud.
Explorez les événements et webinaires technologiques d'entreprise à venir par TechForge ici.
Article connexe
Meta Offre des Salaires Élevés pour les Talents en IA, Dément les Bonus de Signature de 100M$
Meta attire des chercheurs en IA vers son nouveau laboratoire de superintelligence avec des packages de rémunération de plusieurs millions de dollars. Cependant, les allégations de "bonus de signature
NotebookLM Dévoile des Carnets Sélectionnés de Publications de Premier Plan et d'Experts
Google améliore son outil de recherche et de prise de notes alimenté par l'IA, NotebookLM, pour en faire un centre de connaissances complet. Lundi, l'entreprise a présenté une collection de carnets so
Meta intensifie ses efforts pour limiter le contenu non original sur Facebook
Lundi, Meta a dévoilé des mesures plus strictes pour lutter contre les comptes publiant du contenu non original sur Facebook, ciblant ceux qui réutilisent répétitivement les textes, images ou vidéos d
commentaires (0)
0/200
Meta a publié de nouveaux outils de sécurité Llama pour renforcer le développement IA et protéger contre les menaces émergentes.
Ces outils de sécurité du modèle IA Llama améliorés sont associés aux nouvelles ressources de Meta pour permettre aux équipes de cybersécurité d'exploiter l'IA pour la défense, visant à améliorer la sécurité pour tous les acteurs de l'IA.
Les développeurs utilisant les modèles Llama ont désormais accès à des outils améliorés, disponibles directement sur la page Llama Protections de Meta, Hugging Face et GitHub.
Llama Guard 4 introduit des capacités multimodales, permettant l'application de la sécurité pour le texte et les images, crucial pour les applications IA de plus en plus visuelles. Il est intégré à la nouvelle API Llama de Meta, actuellement en prévisualisation limitée.
LlamaFirewall, une nouvelle addition, sert de centre de sécurité pour les systèmes IA, coordonnant les modèles de sécurité et s'intégrant aux outils de protection de Meta pour contrer les risques comme les attaques par injection de prompts, la génération de code non sécurisé ou les comportements malveillants de plug-ins IA.
Meta a également affiné Llama Prompt Guard. Le modèle mis à jour Prompt Guard 2 (86M) excelle dans la détection des tentatives de jailbreak et des injections de prompts. De plus, le compact Prompt Guard 2 22M réduit la latence et les coûts de calcul jusqu'à 75 %, maintenant une détection robuste pour les développeurs soucieux des coûts.
Au-delà des développeurs, Meta soutient les professionnels de la cybersécurité avec des outils pilotés par IA pour combattre les cyberattaques, répondant à la demande croissante de défenses avancées.
La suite de benchmarks CyberSec Eval 4 a été remaniée, offrant aux organisations des outils pour évaluer les performances IA dans les tâches de sécurité. Elle inclut deux nouvelles additions :
- CyberSOC Eval : Développé avec CrowdStrike, ce cadre évalue l'efficacité de l'IA dans des environnements réels de centres d'opérations de sécurité, en se concentrant sur la détection et la réponse aux menaces. Il sera bientôt disponible.
- AutoPatchBench : Cela teste la capacité de Llama et d'autres modèles IA à identifier et corriger les vulnérabilités de code avant leur exploitation.
Le programme Llama Defenders de Meta fournit aux partenaires et développeurs des solutions de sécurité IA personnalisées, combinant des outils open-source et en accès anticipé pour répondre à divers défis.
Meta partage son outil interne de classification automatique des documents sensibles, qui étiquette les documents sensibles pour prévenir les fuites non autorisées ou l'utilisation abusive dans des systèmes IA comme les configurations RAG.
Pour lutter contre les escroqueries audio générées par IA, Meta partage le détecteur audio généré par Llama et le détecteur de filigrane audio Llama avec des partenaires comme ZenDesk, Bell Canada et AT&T pour identifier les voix IA frauduleuses dans les tentatives de phishing ou de fraude.
Meta a également prévisualisé le traitement privé pour WhatsApp, permettant à l'IA de résumer les messages ou de rédiger des réponses sans accéder au contenu des messages, en priorisant la confidentialité des utilisateurs.
Meta partage ouvertement son modèle de menace, encourageant les chercheurs en sécurité à examiner l'architecture avant le lancement, démontrant un engagement envers des mesures de confidentialité robustes.
Cet ensemble complet de mises à jour de sécurité IA de Meta renforce leur écosystème IA tout en équipant la communauté technologique d'outils pour un développement sécurisé et une défense efficace.
Voir aussi : Microsoft découvre 4 milliards de dollars en tentatives de fraude pilotées par IA
Découvrez plus sur l'IA et les big data à l'AI & Big Data Expo à Amsterdam, Californie et Londres, co-localisé avec des événements comme la conférence sur l'automatisation intelligente, BlockX, la semaine de la transformation numérique, et l'expo sur la cybersécurité et le cloud.
Explorez les événements et webinaires technologiques d'entreprise à venir par TechForge ici.
Meta Offre des Salaires Élevés pour les Talents en IA, Dément les Bonus de Signature de 100M$
Meta attire des chercheurs en IA vers son nouveau laboratoire de superintelligence avec des packages de rémunération de plusieurs millions de dollars. Cependant, les allégations de "bonus de signature
NotebookLM Dévoile des Carnets Sélectionnés de Publications de Premier Plan et d'Experts
Google améliore son outil de recherche et de prise de notes alimenté par l'IA, NotebookLM, pour en faire un centre de connaissances complet. Lundi, l'entreprise a présenté une collection de carnets so
Meta intensifie ses efforts pour limiter le contenu non original sur Facebook
Lundi, Meta a dévoilé des mesures plus strictes pour lutter contre les comptes publiant du contenu non original sur Facebook, ciblant ceux qui réutilisent répétitivement les textes, images ou vidéos d
