दीपमाइंड का एजीआई सुरक्षा पेपर स्केप्टिक्स को बोलने में विफल रहता है

# deepmind # agi

बुधवार को, Google DeepMind ने AGI सुरक्षा के लिए अपने दृष्टिकोण में गहराई से 145-पृष्ठ के कागज को गिरा दिया। एजीआई, या आर्टिफिशियल जनरल इंटेलिजेंस, एआई की तरह है जो किसी भी कार्य को एक मानव कर सकता है, और यह एआई दुनिया में एक गर्म विषय है। कुछ लोगों को लगता है कि यह सिर्फ एक फंतासी है, जबकि अन्य, एंथ्रोपिक में बड़े शॉट्स की तरह, विश्वास करते हैं कि यह मोड़ के चारों ओर सही है और अगर हमें हमारे सुरक्षा उपायों को जांच में नहीं मिलता है तो कुछ गंभीर परेशानी हो सकती है। डीपमाइंड के पेपर, सह-संस्थापक शेन लेग की मदद से, एजीआई को 2030 तक दिखाया जा सकता है और उन्हें "गंभीर नुकसान" कहा जा सकता है। वे इसे बिल्कुल नहीं बताते हैं, लेकिन वे "अस्तित्वगत जोखिम" जैसे डरावने वाक्यांशों के आसपास टॉस करते हैं जो "स्थायी रूप से मानवता को नष्ट कर सकते हैं।" "हम इस दशक से पहले एक असाधारण एजीआई को देखने पर दांव लगा रहे हैं," लेखक नोट करते हैं। "एक असाधारण एजीआई एक ऐसी प्रणाली है जो गैर-भौतिक कार्यों के एक समूह पर शीर्ष 1% वयस्कों के कौशल से मेल खा सकती है, जिसमें नए कौशल सीखने जैसे मुश्किल सामान शामिल हैं।" शुरुआत से ही, पेपर ने एजीआई जोखिम को संभालने के डीपमाइंड के तरीके की तुलना की है कि यह कैसे एंथ्रोपिक और ओपनईआई है। यह कहता है कि एंथ्रोपिक "मजबूत प्रशिक्षण, निगरानी और सुरक्षा" पर उतना बड़ा नहीं है, जबकि Openai के सभी "स्वचालित" AI सुरक्षा अनुसंधान के एक प्रकार के "स्वचालित" के बारे में संरेखण अनुसंधान कहा जाता है। कागज भी अधीक्षक एआई - एआई के विचार पर कुछ छाया फेंकता है जो किसी भी मानव की तुलना में नौकरियों में बेहतर है। । लेकिन उन्हें लगता है कि यह संभव है कि हमारे वर्तमान तरीके "पुनरावर्ती एआई सुधार" हो सकते हैं, जहां एआई अपने एआई अनुसंधान को भी स्मार्ट एआई सिस्टम बनाने के लिए करता है। और, वे चेतावनी देते हैं, सुपर खतरनाक हो सकते हैं। कुल मिलाकर, पेपर से पता चलता है कि हमें खराब अभिनेताओं को एजीआई से दूर रखने के तरीके विकसित करने की आवश्यकता है, बेहतर समझें कि एआई सिस्टम क्या हैं, और उन वातावरणों को बनाते हैं जहां एआई अधिक सुरक्षित संचालित करता है। वे मानते हैं कि इनमें से बहुत से विचार अभी भी अपने शुरुआती चरणों में हैं और "खुली अनुसंधान समस्याएं" हैं, लेकिन वे हमसे आग्रह करते हैं कि वे उन सुरक्षा मुद्दों को अनदेखा न करें जो हमारे रास्ते में आ रहे हैं। "एजीआई अद्भुत लाभ या गंभीर नुकसान ला सकता है," लेखक बताते हैं। "तो, एजीआई को सही तरीके से बनाने के लिए, यह शीर्ष एआई डेवलपर्स के लिए आगे की योजना बनाने और उन बड़े जोखिमों से निपटने के लिए महत्वपूर्ण है।" पेपर के विचारों के साथ हर कोई बोर्ड पर नहीं है, हालांकि। गैर -लाभकारी एआई नाउ इंस्टीट्यूट के मुख्य एआई वैज्ञानिक हेइडी खलाफ ने कहा कि TechCrunch ने बताया कि उन्हें लगता है कि AGI बहुत अधिक अवधारणा है, जिसे "वैज्ञानिक रूप से सख्ती से मूल्यांकन किया गया है।" एक अन्य एआई शोधकर्ता, अल्बर्टा विश्वविद्यालय के मैथ्यू गुज़दियल ने कहा कि वह आश्वस्त नहीं है कि पुनरावर्ती एआई सुधार अभी उल्लेखनीय है। "पुनरावर्ती सुधार वह है जो खुफिया विलक्षणता तर्क पर आधारित है," गुज़डियल ने TechCrunch को बताया, "लेकिन हमने कभी भी कोई सबूत नहीं देखा है कि यह वास्तव में काम करता है।" सैंड्रा वाचर, जो ऑक्सफोर्ड में तकनीक और विनियमन का अध्ययन करते हैं, एक अधिक दबाव वाली चिंता बताते हैं: एआई खुद को "गलत आउटपुट" के साथ मजबूत करता है। उन्होंने कहा, "अधिक से अधिक एआई-जनित सामग्री ऑनलाइन और वास्तविक डेटा को प्रतिस्थापित करने के साथ, मॉडल अपने स्वयं के आउटपुट से सीख रहे हैं जो अशुद्धि या मतिभ्रम से भरे हुए हैं," उन्होंने TechCrunch को बताया। "चूंकि चैटबॉट्स का उपयोग ज्यादातर सच्चाई को खोजने और खोजने के लिए किया जाता है, इसलिए हमें हमेशा झूठी जानकारी दी जा रही है जो बहुत ही ठोस तरीके से प्रस्तुत की जाती है।" जैसा कि यह पूरी तरह से है, डीपमाइंड का पेपर शायद इस बात पर बहस समाप्त नहीं करेगा कि एजीआई वास्तव में कितनी संभावना है - और एआई सुरक्षा के मुद्दों को अभी सबसे अधिक ध्यान देने की आवश्यकता है।

संबंधित लेख

सूचना (45)