Meta verbessert KI-Sicherheit mit fortschrittlichen Llama-Tools

Meta hat neue Llama-Sicherheitstools veröffentlicht, um die KI-Entwicklung zu stärken und vor neuen Bedrohungen zu schützen.

Diese verbesserten Llama-KI-Modell-Sicherheitstools werden mit neuen Ressourcen von Meta kombiniert, um Cybersecurity-Teams zu befähigen, KI zur Verteidigung einzusetzen und die Sicherheit aller KI-Beteiligten zu erhöhen.

Entwickler, die Llama-Modelle nutzen, haben jetzt Zugang zu erweiterten Tools, die direkt auf Meta’s Llama Protections-Seite, Hugging Face und GitHub verfügbar sind.

Llama Guard 4 führt multimodale Fähigkeiten ein, die Sicherheit für Text und Bilder durchsetzen, entscheidend für zunehmend visuelle KI-Anwendungen. Es ist in Meta’s neue Llama API integriert, die derzeit in begrenzter Vorschau verfügbar ist.

LlamaFirewall, eine neue Ergänzung, dient als Sicherheitszentrale für KI-Systeme, koordiniert Sicherheitsmodelle und integriert sich mit Meta’s Schutztools, um Risiken wie Prompt-Injection-Angriffe, unsichere Code-Generierung oder bösartiges Verhalten von KI-Plug-ins zu bekämpfen.

Meta hat auch Llama Prompt Guard verfeinert. Das aktualisierte Prompt Guard 2 (86M)-Modell erkennt Jailbreak-Versuche und Prompt-Injectionen effektiv. Zusätzlich reduziert das kompakte Prompt Guard 2 22M Latenz und Rechenkosten um bis zu 75 %, bei starker Erkennung für kostenbewusste Entwickler.

Neben Entwicklern unterstützt Meta Cybersecurity-Experten mit KI-gestützten Tools zur Bekämpfung von Cyberangriffen, um den wachsenden Anforderungen an fortschrittliche Verteidigung gerecht zu werden.

Die CyberSec Eval 4-Benchmarksuite wurde überarbeitet und bietet Organisationen Tools zur Bewertung der KI-Leistung in Sicherheitsaufgaben. Sie umfasst zwei neue Ergänzungen:

• CyberSOC Eval: In Zusammenarbeit mit CrowdStrike entwickelt, bewertet dieses Framework die KI-Effektivität in realen Security Operation Centre-Umgebungen mit Fokus auf Bedrohungserkennung und -reaktion. Es wird bald verfügbar sein.
• AutoPatchBench: Dies testet die Fähigkeit von Llama und anderen KI-Modellen, Code-Schwachstellen vor Ausnutzung zu identifizieren und zu patchen.

Meta’s Llama Defenders Program bietet Partnern und Entwicklern maßgeschneiderte KI-Sicherheitslösungen, die Open-Source- und Frühzugriffstools kombinieren, um vielfältige Herausforderungen anzugehen.

Meta teilt sein internes Automated Sensitive Doc Classification Tool, das sensible Dokumente kennzeichnet, um unbefugte Lecks oder Missbrauch in KI-Systemen wie RAG-Setups zu verhindern.

Zur Bekämpfung von KI-generierten Audio-Betrügereien teilt Meta den Llama Generated Audio Detector und Llama Audio Watermark Detector mit Partnern wie ZenDesk, Bell Canada und AT&T, um betrügerische KI-Stimmen bei Phishing oder Betrugsversuchen zu identifizieren.

Meta hat auch Private Processing für WhatsApp vorgestellt, das KI ermöglicht, Nachrichten zusammenzufassen oder Antworten zu entwerfen, ohne auf Nachrichteninhalte zuzugreifen, und dabei die Privatsphäre der Nutzer priorisiert.

Meta teilt sein Bedrohungsmodell offen, um Sicherheitsforscher zu ermutigen, die Architektur vor dem Start zu prüfen, und zeigt damit Engagement für robuste Datenschutzmaßnahmen.

Diese umfassende Reihe von KI-Sicherheitsupdates von Meta stärkt ihr KI-Ökosystem und rüstet die Tech-Community mit Tools für sichere Entwicklung und effektive Verteidigung aus.

Siehe auch: Microsoft deckt 4 Milliarden Dollar an KI-gesteuerten Betrugsversuchen auf

Erfahren Sie mehr über KI und Big Data auf der AI & Big Data Expo in Amsterdam, Kalifornien und London, zusammen mit Veranstaltungen wie Intelligent Automation Conference, BlockX, Digital Transformation Week und Cyber Security & Cloud Expo.

Entdecken Sie kommende Unternehmenstechnologie-Events und Webinare von TechForge hier.