एरिक श्मिट ने एजीआई मैनहट्टन प्रोजेक्ट का विरोध किया

बुधवार को जारी एक नीति पत्र में, पूर्व गूगल सीईओ एरिक श्मिट, स्केल एआई के सीईओ अलेक्जेंडर वांग और सेंटर फॉर एआई सेफ्टी के निदेशक डैन हेंड्रिक्स ने अमेरिका को "सुपरह्यूमन" बुद्धिमत्ता वाले एआई सिस्टम, जिन्हें सामान्य रूप से एजीआई कहा जाता है, विकसित करने के लिए मैनहट्टन प्रोजेक्ट-शैली की पहल शुरू करने के खिलाफ सलाह दी।

"सुपरइंटेलिजेंस स्ट्रैटेजी" शीर्षक वाला यह पत्र चेतावनी देता है कि सुपरइंटेलिजेंट एआई पर अमेरिकी एकाधिकार का प्रयास चीन से तीव्र प्रतिक्रिया को भड़का सकता है, संभवतः साइबर हमले के रूप में, जो वैश्विक संबंधों को बाधित कर सकता है।

सह-लेखकों का तर्क है, "एजीआई के लिए मैनहट्टन प्रोजेक्ट यह मानता है कि प्रतिद्वंद्वी स्थायी असंतुलन या सर्वनाश को स्वीकार करेंगे, न कि इसे रोकने के लिए कदम उठाएंगे। जो एक सुपरहथियार और वैश्विक नियंत्रण के लिए धक्का शुरू होता है, वह शत्रुतापूर्ण जवाबी कार्रवाइयों और बढ़ते तनावों को प्रेरित करने का जोखिम उठाता है, जिससे वह स्थिरता कमजोर हो जाती है, जिसे यह रणनीति सुरक्षित करने का दावा करती है।"

अमेरिकी एआई क्षेत्र के तीन प्रमुख व्यक्तियों द्वारा लिखित यह पत्र, अमेरिकी कांग्रेस के एक आयोग द्वारा एजीआई विकास को निधि देने के लिए "मैनहट्टन प्रोजेक्ट-शैली" की पहल का सुझाव देने के तुरंत बाद आया है, जो 1940 के दशक के अमेरिकी परमाणु बम परियोजना के समान है। अमेरिकी ऊर्जा सचिव क्रिस राइट ने हाल ही में ओपनएआई के सह-संस्थापक ग्रेग ब्रॉकमैन के साथ एक सुपरकंप्यूटर साइट पर बोलते हुए घोषणा की कि अमेरिका एआई पर "एक नए मैनहट्टन प्रोजेक्ट की शुरुआत में" है।

सुपरइंटेलिजेंस स्ट्रैटेजी पत्र कई अमेरिकी नीति और उद्योग नेताओं के हालिया दबाव को चुनौती देता है, जो मानते हैं कि सरकार समर्थित एजीआई कार्यक्रम चीन के साथ तालमेल रखने का सबसे अच्छा तरीका है।

श्मिट, वांग और हेंड्रिक्स अमेरिका को एजीआई को लेकर एक गतिरोध की स्थिति में देखते हैं, जो परस्पर सुनिश्चित विनाश की अवधारणा के समान है। जैसे राष्ट्र परमाणु हथियारों पर एकाधिकार से बचते हैं ताकि पहले से हमला न हो, लेखक सुझाव देते हैं कि अमेरिका को अत्यधिक उन्नत एआई सिस्टम पर हावी होने की जल्दबाजी से सावधान रहना चाहिए।

हालांकि एआई की तुलना परमाणु हथियारों से करना अतिशयोक्ति लग सकता है, वैश्विक नेता पहले से ही एआई को एक महत्वपूर्ण सैन्य संपत्ति के रूप में देखते हैं। पेंटागन ने उल्लेख किया है कि एआई सैन्य की हत्या श्रृंखला को तेज कर रहा है।

लेखक म्यूचुअल एश्योर्ड एआई मालफंक्शन (एमएआईएम) की अवधारणा पेश करते हैं, जहां सरकारें धमकी देने वाले एआई परियोजनाओं को अक्षम करने के लिए पहले से कार्रवाई कर सकती हैं, बजाय इसके कि विरोधी एजीआई को हथियार बनाएं।

श्मिट, वांग और हेंड्रिक्स सलाह देते हैं कि अमेरिका को "सुपरइंटेलिजेंस की दौड़ जीतने" से ध्यान हटाकर अन्य देशों को सुपरइंटेलिजेंट एआई बनाने से रोकने के तरीके विकसित करने पर ध्यान देना चाहिए। वे सुझाव देते हैं कि सरकार को "धमकी देने वाली एआई परियोजनाओं को अक्षम करने के लिए साइबर हमलों के अपने शस्त्रागार का विस्तार करना चाहिए" और विरोधियों की उन्नत एआई चिप्स और ओपन-सोर्स मॉडल तक पहुंच को प्रतिबंधित करना चाहिए।

पत्र एआई नीति समुदाय में विभाजन को उजागर करता है, जिसमें "डूमर्स" शामिल हैं, जो मानते हैं कि विनाशकारी एआई परिणाम अपरिहार्य हैं और एआई प्रगति को धीमा करने की वकालत करते हैं, और "ऑस्ट्रिचेस", जो एआई विकास को तेज करने और सर्वश्रेष्ठ की उम्मीद करते हैं।

लेखक एक तीसरा रास्ता प्रस्तावित करते हैं: एजीआई विकास के लिए एक सतर्क दृष्टिकोण जो रक्षात्मक रणनीतियों पर जोर देता है।

यह रुख विशेष रूप से श्मिट से उल्लेखनीय है, जिन्होंने पहले अमेरिका को चीन के साथ एआई विकास में आक्रामक रूप से प्रतिस्पर्धा करने की आवश्यकता पर जोर दिया था। कुछ महीने पहले ही, श्मिट ने एक लेख लिखा था जिसमें कहा गया था कि डीपसीक ने अमेरिका-चीन एआई दौड़ में एक महत्वपूर्ण क्षण को चिह्नित किया।

ट्रम्प प्रशासन के अमेरिका के एआई विकास को आगे बढ़ाने के दृढ़ संकल्प के बावजूद, सह-लेखक हमें याद दिलाते हैं कि एजीआई पर अमेरिकी निर्णयों के वैश्विक निहितार्थ हैं।

जैसा कि दुनिया अमेरिका के एआई में धक्का को देखती है, श्मिट और उनके सह-लेखक सुझाव देते हैं कि अधिक रक्षात्मक रणनीति बुद्धिमानी भरा विकल्प हो सकता है।