Meta Mejora la Seguridad de la IA con Herramientas Avanzadas de Llama
Meta ha lanzado nuevas herramientas de seguridad de Llama para fortalecer el desarrollo de la IA y proteger contra amenazas emergentes.
Estas herramientas de seguridad mejoradas del modelo de IA Llama están acompañadas de nuevos recursos de Meta para empoderar a los equipos de ciberseguridad en el uso de la IA para la defensa, con el objetivo de mejorar la seguridad para todos los interesados en la IA.
Los desarrolladores que usan modelos Llama ahora tienen acceso a herramientas mejoradas, disponibles directamente en la página de Protecciones de Llama de Meta, Hugging Face y GitHub.
Llama Guard 4 introduce capacidades multimodales, permitiendo la aplicación de seguridad para texto e imágenes, crucial para aplicaciones de IA cada vez más visuales. Está integrado en la nueva API de Llama de Meta, actualmente en vista previa limitada.
LlamaFirewall, una nueva incorporación, actúa como un centro de seguridad para sistemas de IA, coordinando modelos de seguridad e integrándose con las herramientas de protección de Meta para contrarrestar riesgos como ataques de inyección de prompts, generación de código inseguro o comportamiento malicioso de complementos de IA.
Meta también ha perfeccionado Llama Prompt Guard. El modelo actualizado Prompt Guard 2 (86M) destaca en la detección de intentos de jailbreak e inyecciones de prompts. Además, el compacto Prompt Guard 2 22M reduce la latencia y los costos de cómputo hasta en un 75%, manteniendo una detección robusta para desarrolladores conscientes de los costos.
Más allá de los desarrolladores, Meta apoya a los profesionales de ciberseguridad con herramientas impulsadas por IA para combatir ciberataques, respondiendo a la creciente demanda de defensas avanzadas.
El conjunto de pruebas CyberSec Eval 4 ha sido renovado, ofreciendo a las organizaciones herramientas para evaluar el rendimiento de la IA en tareas de seguridad. Incluye dos nuevas adiciones:
- CyberSOC Eval: Desarrollado con CrowdStrike, este marco evalúa la efectividad de la IA en entornos reales de Centros de Operaciones de Seguridad, centrándose en la detección y respuesta a amenazas. Estará disponible pronto.
- AutoPatchBench: Esto prueba la capacidad de Llama y otros modelos de IA para identificar y parchear vulnerabilidades de código antes de su explotación.
El Programa de Defensores de Llama de Meta proporciona a socios y desarrolladores soluciones de seguridad de IA personalizadas, combinando herramientas de código abierto y de acceso anticipado para abordar diversos desafíos.
Meta comparte su Herramienta de Clasificación Automatizada de Documentos Sensibles interna, que etiqueta documentos sensibles para prevenir filtraciones no autorizadas o mal uso en sistemas de IA como configuraciones RAG.
Para combatir estafas de audio generadas por IA, Meta comparte el Detector de Audio Generado por Llama y el Detector de Marca de Agua de Audio de Llama con socios como ZenDesk, Bell Canada y AT&T para identificar voces de IA fraudulentas en intentos de phishing o fraude.
Meta también presentó un avance de Procesamiento Privado para WhatsApp, permitiendo a la IA resumir mensajes o redactar respuestas sin acceder al contenido del mensaje, priorizando la privacidad del usuario.
Meta comparte abiertamente su modelo de amenazas, alentando a los investigadores de seguridad a examinar la arquitectura antes del lanzamiento, demostrando un compromiso con medidas de privacidad robustas.
Este conjunto integral de actualizaciones de seguridad de IA de Meta fortalece su ecosistema de IA mientras equipa a la comunidad tecnológica con herramientas para un desarrollo seguro y una defensa efectiva.
Ver también: Microsoft descubre $4B en intentos de fraude impulsados por IA
Descubre más sobre IA y big data en la AI & Big Data Expo en Ámsterdam, California y Londres, co-ubicada con eventos como la Conferencia de Automatización Inteligente, BlockX, Semana de Transformación Digital y Expo de Ciberseguridad y Nube.
Explora los próximos eventos y webinars de tecnología empresarial de TechForge aquí.
Artículo relacionado
Meta Ofrece Altos Salarios para Talento en IA, Niega Bonos de Firma de $100M
Meta está atrayendo a investigadores de IA a su nuevo laboratorio de superinteligencia con paquetes de compensación multimillonarios sustanciales. Sin embargo, las afirmaciones de bonos de firma de $1
NotebookLM Presenta Cuadernos Curados de Publicaciones y Expertos de Renombre
Google está mejorando su herramienta de investigación y toma de notas impulsada por IA, NotebookLM, para que sirva como un centro de conocimiento integral. El lunes, la compañía presentó una colección
Meta Intensifica Esfuerzos para Frenar Contenido No Original en Facebook
El lunes, Meta anunció medidas más estrictas para abordar cuentas que publican contenido no original en Facebook, dirigidas a aquellas que reutilizan repetidamente textos, imágenes o videos de otros.
comentario (0)
0/200
Meta ha lanzado nuevas herramientas de seguridad de Llama para fortalecer el desarrollo de la IA y proteger contra amenazas emergentes.
Estas herramientas de seguridad mejoradas del modelo de IA Llama están acompañadas de nuevos recursos de Meta para empoderar a los equipos de ciberseguridad en el uso de la IA para la defensa, con el objetivo de mejorar la seguridad para todos los interesados en la IA.
Los desarrolladores que usan modelos Llama ahora tienen acceso a herramientas mejoradas, disponibles directamente en la página de Protecciones de Llama de Meta, Hugging Face y GitHub.
Llama Guard 4 introduce capacidades multimodales, permitiendo la aplicación de seguridad para texto e imágenes, crucial para aplicaciones de IA cada vez más visuales. Está integrado en la nueva API de Llama de Meta, actualmente en vista previa limitada.
LlamaFirewall, una nueva incorporación, actúa como un centro de seguridad para sistemas de IA, coordinando modelos de seguridad e integrándose con las herramientas de protección de Meta para contrarrestar riesgos como ataques de inyección de prompts, generación de código inseguro o comportamiento malicioso de complementos de IA.
Meta también ha perfeccionado Llama Prompt Guard. El modelo actualizado Prompt Guard 2 (86M) destaca en la detección de intentos de jailbreak e inyecciones de prompts. Además, el compacto Prompt Guard 2 22M reduce la latencia y los costos de cómputo hasta en un 75%, manteniendo una detección robusta para desarrolladores conscientes de los costos.
Más allá de los desarrolladores, Meta apoya a los profesionales de ciberseguridad con herramientas impulsadas por IA para combatir ciberataques, respondiendo a la creciente demanda de defensas avanzadas.
El conjunto de pruebas CyberSec Eval 4 ha sido renovado, ofreciendo a las organizaciones herramientas para evaluar el rendimiento de la IA en tareas de seguridad. Incluye dos nuevas adiciones:
- CyberSOC Eval: Desarrollado con CrowdStrike, este marco evalúa la efectividad de la IA en entornos reales de Centros de Operaciones de Seguridad, centrándose en la detección y respuesta a amenazas. Estará disponible pronto.
- AutoPatchBench: Esto prueba la capacidad de Llama y otros modelos de IA para identificar y parchear vulnerabilidades de código antes de su explotación.
El Programa de Defensores de Llama de Meta proporciona a socios y desarrolladores soluciones de seguridad de IA personalizadas, combinando herramientas de código abierto y de acceso anticipado para abordar diversos desafíos.
Meta comparte su Herramienta de Clasificación Automatizada de Documentos Sensibles interna, que etiqueta documentos sensibles para prevenir filtraciones no autorizadas o mal uso en sistemas de IA como configuraciones RAG.
Para combatir estafas de audio generadas por IA, Meta comparte el Detector de Audio Generado por Llama y el Detector de Marca de Agua de Audio de Llama con socios como ZenDesk, Bell Canada y AT&T para identificar voces de IA fraudulentas en intentos de phishing o fraude.
Meta también presentó un avance de Procesamiento Privado para WhatsApp, permitiendo a la IA resumir mensajes o redactar respuestas sin acceder al contenido del mensaje, priorizando la privacidad del usuario.
Meta comparte abiertamente su modelo de amenazas, alentando a los investigadores de seguridad a examinar la arquitectura antes del lanzamiento, demostrando un compromiso con medidas de privacidad robustas.
Este conjunto integral de actualizaciones de seguridad de IA de Meta fortalece su ecosistema de IA mientras equipa a la comunidad tecnológica con herramientas para un desarrollo seguro y una defensa efectiva.
Ver también: Microsoft descubre $4B en intentos de fraude impulsados por IA
Descubre más sobre IA y big data en la AI & Big Data Expo en Ámsterdam, California y Londres, co-ubicada con eventos como la Conferencia de Automatización Inteligente, BlockX, Semana de Transformación Digital y Expo de Ciberseguridad y Nube.
Explora los próximos eventos y webinars de tecnología empresarial de TechForge aquí.
Meta Ofrece Altos Salarios para Talento en IA, Niega Bonos de Firma de $100M
Meta está atrayendo a investigadores de IA a su nuevo laboratorio de superinteligencia con paquetes de compensación multimillonarios sustanciales. Sin embargo, las afirmaciones de bonos de firma de $1
NotebookLM Presenta Cuadernos Curados de Publicaciones y Expertos de Renombre
Google está mejorando su herramienta de investigación y toma de notas impulsada por IA, NotebookLM, para que sirva como un centro de conocimiento integral. El lunes, la compañía presentó una colección
Meta Intensifica Esfuerzos para Frenar Contenido No Original en Facebook
El lunes, Meta anunció medidas más estrictas para abordar cuentas que publican contenido no original en Facebook, dirigidas a aquellas que reutilizan repetidamente textos, imágenes o videos de otros.
