Meta Tăng Cường Bảo Mật AI với Công Cụ Llama Nâng Cao

Meta đã phát hành các công cụ bảo mật Llama mới để thúc đẩy phát triển AI và bảo vệ chống lại các mối đe dọa mới nổi.

Các công cụ bảo mật mô hình AI Llama nâng cấp này được kết hợp với các tài nguyên mới của Meta để hỗ trợ các đội ngũ an ninh mạng tận dụng AI cho phòng thủ, nhằm tăng cường an toàn cho tất cả các bên liên quan đến AI.

Các nhà phát triển sử dụng mô hình Llama giờ đây có quyền truy cập vào các công cụ nâng cao, có sẵn trực tiếp trên trang Llama Protections của Meta, Hugging Face và GitHub.

Llama Guard 4 giới thiệu khả năng đa phương thức, cho phép thực thi an toàn cho cả văn bản và hình ảnh, quan trọng đối với các ứng dụng AI ngày càng trực quan. Nó được tích hợp vào API Llama mới của Meta, hiện đang trong giai đoạn xem trước có giới hạn.

LlamaFirewall, một bổ sung mới, hoạt động như một trung tâm bảo mật cho các hệ thống AI, điều phối các mô hình an toàn và tích hợp với các công cụ bảo vệ của Meta để đối phó với các rủi ro như tấn công chèn lệnh, tạo mã không an toàn hoặc hành vi plug-in AI độc hại.

Meta cũng đã cải tiến Llama Prompt Guard. Mô hình Prompt Guard 2 (86M) cập nhật vượt trội trong việc phát hiện các nỗ lực vượt ngục và chèn lệnh. Ngoài ra, Prompt Guard 2 22M nhỏ gọn giảm độ trễ và chi phí tính toán tới 75%, duy trì khả năng phát hiện mạnh mẽ cho các nhà phát triển tiết kiệm chi phí.

Ngoài các nhà phát triển, Meta hỗ trợ các chuyên gia an ninh mạng với các công cụ AI-driven để chống lại các cuộc tấn công mạng, đáp ứng nhu cầu ngày càng tăng về các biện pháp phòng thủ tiên tiến.

Bộ tiêu chuẩn CyberSec Eval 4 đã được cải tiến, cung cấp cho các tổ chức các công cụ để đánh giá hiệu suất AI trong các nhiệm vụ bảo mật. Nó bao gồm hai bổ sung mới:

• CyberSOC Eval: Được phát triển cùng CrowdStrike, khung này đánh giá hiệu quả AI trong môi trường Trung tâm Vận hành Bảo mật thực tế, tập trung vào phát hiện và phản ứng với mối đe dọa. Nó sẽ sớm có sẵn.
• AutoPatchBench: Kiểm tra khả năng của Llama và các mô hình AI khác trong việc xác định và vá lỗ hổng mã trước khi bị khai thác.

Chương trình Llama Defenders của Meta cung cấp cho đối tác và nhà phát triển các giải pháp bảo mật AI tùy chỉnh, kết hợp các công cụ mã nguồn mở và truy cập sớm để giải quyết các thách thức đa dạng.

Meta đang chia sẻ Công cụ Phân loại Tài liệu Nhạy cảm Tự động nội bộ, gắn nhãn các tài liệu nhạy cảm để ngăn chặn rò rỉ hoặc sử dụng sai trong các hệ thống AI như thiết lập RAG.

Để chống lại các vụ lừa đảo âm thanh do AI tạo ra, Meta chia sẻ Llama Generated Audio Detector và Llama Audio Watermark Detector với các đối tác như ZenDesk, Bell Canada và AT&T để xác định giọng nói AI gian lận trong các nỗ lực lừa đảo hoặc gian lận.

Meta cũng giới thiệu trước Xử lý Riêng tư cho WhatsApp, cho phép AI tóm tắt tin nhắn hoặc soạn thảo trả lời mà không truy cập nội dung tin nhắn, ưu tiên quyền riêng tư của người dùng.

Meta công khai chia sẻ mô hình mối đe dọa của mình, khuyến khích các nhà nghiên cứu bảo mật xem xét kỹ lưỡng kiến trúc trước khi ra mắt, thể hiện cam kết với các biện pháp bảo mật mạnh mẽ.

Bộ cập nhật bảo mật AI toàn diện này từ Meta củng cố hệ sinh thái AI của họ đồng thời trang bị cho cộng đồng công nghệ các công cụ để phát triển an toàn và phòng thủ hiệu quả.

Xem thêm: Microsoft phát hiện 4 tỷ USD trong các nỗ lực gian lận do AI điều khiển

Tìm hiểu thêm về AI và dữ liệu lớn tại AI & Big Data Expo ở Amsterdam, California và London, đồng tổ chức với các sự kiện như Intelligent Automation Conference, BlockX, Digital Transformation Week và Cyber Security & Cloud Expo.

Khám phá các sự kiện và hội thảo công nghệ doanh nghiệp sắp tới của TechForge tại đây.