मेटा ने उन्नत लामा उपकरणों के साथ AI सुरक्षा को बढ़ाया

मेटा ने AI विकास को मजबूत करने और उभरते खतरों से बचाव के लिए नए लामा सुरक्षा उपकरण जारी किए हैं।

ये उन्नत लामा AI मॉडल सुरक्षा उपकरण मेटा के नए संसाधनों के साथ जोड़े गए हैं, ताकि साइबरसुरक्षा टीमों को AI का उपयोग रक्षा के लिए सशक्त बनाया जा सके, जिसका उद्देश्य सभी AI हितधारकों के लिए सुरक्षा बढ़ाना है।

लामा मॉडल का उपयोग करने वाले डेवलपर्स को अब उन्नत उपकरणों तक पहुंच प्राप्त है, जो सीधे मेटा के लामा प्रोटेक्शंस पेज, Hugging Face, और GitHub पर उपलब्ध हैं।

लामा गार्ड 4 मल्टीमॉडल क्षमताओं को प्रस्तुत करता है, जो टेक्स्ट और छवियों दोनों के लिए सुरक्षा लागू करने में सक्षम है, जो तेजी से दृश्य AI अनुप्रयोगों के लिए महत्वपूर्ण है। यह मेटा के नए लामा API में एकीकृत है, जो वर्तमान में सीमित पूर्वावलोकन में है।

लामा फायरवॉल, एक नया जोड़ा गया उपकरण, AI सिस्टम के लिए सुरक्षा केंद्र के रूप में कार्य करता है, जो सुरक्षा मॉडलों का समन्वय करता है और प्रॉम्प्ट इंजेक्शन हमलों, असुरक्षित कोड जनरेशन, या दुर्भावनापूर्ण AI प्लग-इन व्यवहार जैसे जोखिमों का मुकाबला करने के लिए मेटा के सुरक्षात्मक उपकरणों के साथ एकीकृत होता है।

मेटा ने लामा प्रॉम्प्ट गार्ड को भी परिष्कृत किया है। अपडेटेड प्रॉम्प्ट गार्ड 2 (86M) मॉडल जेलब्रेक प्रयासों और प्रॉम्प्ट इंजेक्शनों का पता लगाने में उत्कृष्ट है। इसके अतिरिक्त, कॉम्पैक्ट प्रॉम्प्ट गार्ड 2 22M विलंबता और गणना लागत को 75% तक कम करता है, जिससे लागत-सचेत डेवलपर्स के लिए मजबूत पहचान बनी रहती है।

डेवलपर्स के अलावा, मेटा साइबरसुरक्षा पेशेवरों को साइबर हमलों से निपटने के लिए AI-चालित उपकरणों के साथ समर्थन करता है, जो उन्नत रक्षा के लिए बढ़ती मांगों का जवाब देता है।

साइबरसिक इवैल 4 बेंचमार्क सुइट को नया रूप दिया गया है, जो संगठनों को सुरक्षा कार्यों में AI प्रदर्शन का आकलन करने के लिए उपकरण प्रदान करता है। इसमें दो नए जोड़े गए हैं:

• साइबरएसओसी इवैल: क्राउडस्ट्राइक के साथ विकसित, यह ढांचा वास्तविक सुरक्षा संचालन केंद्र वातावरण में AI प्रभावशीलता का मूल्यांकन करता है, जो खतरे का पता लगाने और प्रतिक्रिया पर केंद्रित है। यह जल्द ही उपलब्ध होगा।
• ऑटोपैचबेंच: यह लामा और अन्य AI मॉडलों की कोड कमजोरियों को पहचानने और शोषण से पहले पैच करने की क्षमता का परीक्षण करता है।

मेटा का लामा डिफेंडर्स प्रोग्राम भागीदारों और डेवलपर्स को अनुकूलित AI सुरक्षा समाधान प्रदान करता है, जो ओपन-सोर्स और अर्ली-एक्सेस उपकरणों को जोड़कर विविध चुनौतियों का समाधान करता है।

मेटा अपने आंतरिक स्वचालित संवेदनशील दस्तावेज वर्गीकरण उपकरण को साझा कर रहा है, जो संवेदनशील दस्तावेजों को लेबल करता है ताकि RAG सेटअप जैसे AI सिस्टम में अनधिकृत रिसाव या दुरुपयोग को रोका जा सके।

AI-जनरेटेड ऑडियो घोटालों से निपटने के लिए, मेटा लामा जनरेटेड ऑडियो डिटेक्टर और लामा ऑडियो वॉटरमार्क डिटेक्टर को ZenDesk, Bell Canada, और AT&T जैसे भागीदारों के साथ साझा कर रहा है ताकि फिशिंग या धोखाधड़ी के प्रयासों में कपटपूर्ण AI आवाजों की पहचान की जा सके।

मेटा ने व्हाट्सएप के लिए प्राइवेट प्रोसेसिंग का भी पूर्वावलोकन किया है, जो AI को संदेश सामग्री तक पहुंच के बिना संदेशों का सारांश या जवाब ड्राफ्ट करने में सक्षम बनाता है, जिससे उपयोगकर्ता गोपनीयता को प्राथमिकता दी जाती है।

मेटा अपने खतरे के मॉडल को खुलकर साझा करता है, सुरक्षा शोधकर्ताओं को लॉन्च से पहले वास्तुकला की जांच करने के लिए प्रोत्साहित करता है, जो मजबूत गोपनीयता उपायों के प्रति प्रतिबद्धता दर्शाता है।

मेटा से AI सुरक्षा अपडेट का यह व्यापक सेट उनके AI पारिस्थितिकी तंत्र को मजबूत करता है, साथ ही तकनीकी समुदाय को सुरक्षित विकास और प्रभावी रक्षा के लिए उपकरणों से लैस करता है।

यह भी देखें: माइक्रोसॉफ्ट ने AI-चालित धोखाधड़ी के $4B प्रयासों का खुलासा किया

एम्स्टर्डम, कैलिफोर्निया, और लंदन में AI और बिग डेटा एक्सपो में AI और बिग डेटा के बारे में और जानें, जो इंटेलिजेंट ऑटोमेशन कॉन्फ्रेंस, BlockX, डिजिटल ट्रांसफॉर्मेशन वीक, और साइबर सिक्योरिटी एंड क्लाउड एक्सपो जैसे आयोजनों के साथ सह-स्थित है।

टेकफोर्ज द्वारा आगामी उद्यम प्रौद्योगिकी आयोजनों और वेबिनारों का अन्वेषण करें।