मेरेडिथ व्हिटेकर ने 'गहन' सुरक्षा, गोपनीयता जोखिम को एजेंट एआई में उजागर किया

ऑस्टिन, टेक्सास में SXSW सम्मेलन में, Signal की अध्यक्ष मेरेडिथ व्हिटेकर ने एजेंटिक AI से जुड़े गोपनीयता जोखिमों के बारे में गंभीर चिंताएँ उठाईं। उन्होंने AI एजेंट्स के उपयोग को "आपके मस्तिष्क को एक जार में डालने" के रूप में जीवंत ढंग से वर्णित किया, जो इस उभरती तकनीक की परेशान करने वाली प्रकृति को उजागर करता है। व्हिटेकर ने बताया कि AI एजेंट्स, जिन्हें कॉन्सर्ट ढूंढने, टिकट बुक करने और इवेंट्स शेड्यूल करने जैसे कार्यों को प्रबंधित करके दैनिक जीवन को बेहतर बनाने के उपकरण के रूप में प्रचारित किया जाता है, गोपनीयता और सुरक्षा के लिए महत्वपूर्ण चुनौतियाँ प्रस्तुत करते हैं।

"तो हम बस अपने मस्तिष्क को एक जार में डाल सकते हैं क्योंकि वह चीज यह कर रही है और हमें इसे छूने की जरूरत नहीं है, है ना?" व्हिटेकर ने चिंतन करते हुए कहा, AI एजेंट्स द्वारा प्रोत्साहित किए जाने वाले हैंड्स-ऑफ दृष्टिकोण पर जोर देते हुए। उन्होंने आगे विस्तार से बताया कि इन एजेंट्स को व्यापक पहुंच की आवश्यकता होगी, जिसमें वेब ब्राउज़र, क्रेडिट कार्ड जानकारी, कैलेंडर और मैसेजिंग ऐप्स पर नियंत्रण शामिल है। "इसे हमारे पूरे सिस्टम में उस प्रक्रिया को चलाने में सक्षम होना होगा, जिसमें रूट परमिशन जैसा कुछ दिखता हो, जो उन सभी डेटाबेस तक पहुंचता हो — शायद खुले में, क्योंकि इसे एन्क्रिप्टेड करने का कोई मॉडल नहीं है," उन्होंने चेतावनी दी।

व्हिटेकर ने इन AI एजेंट्स के लिए आवश्यक प्रोसेसिंग पावर को भी संबोधित किया, यह उल्लेख करते हुए कि ऐसी प्रक्रियाएँ संभवतः उपयोगकर्ता के डिवाइस पर नहीं, बल्कि क्लाउड सर्वर पर होंगी। "यह लगभग निश्चित रूप से एक क्लाउड सर्वर पर भेजा जा रहा है, जहाँ इसे प्रोसेस किया जाता है और वापस भेजा जाता है। इसलिए सुरक्षा और गोपनीयता के साथ एक गंभीर मुद्दा है जो एजेंट्स के आसपास के इस प्रचार को परेशान कर रहा है, और यह अंततः एप्लिकेशन लेयर और OS लेयर के बीच की ब्लड-ब्रेन बैरियर को तोड़ने की धमकी देता है, जो इन सभी अलग-अलग सेवाओं को जोड़कर और उनके डेटा को गंदला करके होता है," उन्होंने निष्कर्ष निकाला।

उन्होंने विशेष रूप से गोपनीयता के लिए निहितार्थों के बारे में चिंता व्यक्त की, अगर Signal जैसे मैसेजिंग ऐप को AI एजेंट्स के साथ एकीकृत किया जाए। ऐसा एकीकरण संदेशों की गोपनीयता से समझौता करेगा, क्योंकि एजेंट को टेक्स्ट भेजने और उन संचारों को सारांशित करने के लिए डेटा प्राप्त करने के लिए ऐप तक पहुंच की आवश्यकता होगी।

व्हिटेकर की टिप्पणियाँ तब आईं जब उन्होंने व्यापक AI उद्योग की निगरानी मॉडल पर निर्भरता के बारे में चर्चा की, जिसमें बड़े पैमाने पर डेटा संग्रह शामिल है। उन्होंने "बड़ा बेहतर है AI प्रतिमान" की आलोचना की, जो डेटा संचय को प्राथमिकता देता है, इसके संभावित नकारात्मक परिणामों की चेतावनी दी। एजेंटिक AI के साथ, उन्होंने सावधान किया, हम "जादुई जिन्न बॉट" की खोज में गोपनीयता और सुरक्षा को और अधिक खतरे में डालने का जोखिम उठाते हैं जो जीवन की आवश्यकताओं का ध्यान रखेगा।