एंथ्रोपिक लॉन्च कार्यक्रम एआई 'मॉडल कल्याण' का अध्ययन करने के लिए

क्या भविष्य एआई सचेत हो सकता है?

यह सवाल कि क्या भविष्य के एआईएस दुनिया को एक तरह से मनुष्यों के समान अनुभव कर सकता है, पेचीदा है, फिर भी काफी हद तक अनुत्तरित है। जबकि कोई निश्चित सबूत नहीं है कि वे करेंगे, एआई लैब एंथ्रोपिक संभावना को एकमुश्त खारिज नहीं कर रहा है। गुरुवार को, एंथ्रोपिक ने "मॉडल वेलफेयर" पर केंद्रित एक शोध कार्यक्रम शुरू किया, जिसका उद्देश्य एआई चेतना के आसपास के संभावित नैतिक विचारों का पता लगाने और तैयार करना है।

इस पहल के हिस्से के रूप में, एन्थ्रोपिक ने उन विषयों में तल्लीन करने की योजना बनाई है जैसे कि एआई मॉडल के "कल्याण" को नैतिक रूप से माना जाना चाहिए, मॉडल में "संकट" के संकेतों का महत्व, और संभावित कम लागत वाले हस्तक्षेप। यह ऐसे समय में आता है जब एआई समुदाय को इस हद तक विभाजित किया जाता है कि एआई किस हद तक मानव जैसी विशेषताओं को प्रदर्शित करता है और हमें इन प्रणालियों का इलाज कैसे करना चाहिए।

एआई चेतना पर विचलन विचार

कई शिक्षाविदों का तर्क है कि वर्तमान एआई, मुख्य रूप से सांख्यिकीय भविष्यवाणी इंजन के रूप में कार्य कर रहा है, वास्तविक चेतना या मानव जैसे अनुभवों की क्षमता का अभाव है। इन प्रणालियों को पैटर्न को पहचानने और कार्यों के लिए अतिरिक्त समाधानों को पहचानने के लिए विशाल डेटासेट पर प्रशिक्षित किया जाता है, लेकिन वे पारंपरिक अर्थों में "सोच" या "महसूस" नहीं करते हैं। किंग्स कॉलेज लंदन के एक शोध फेलो माइक कुक ने TechCrunch के साथ एक हालिया साक्षात्कार में इस बिंदु पर जोर दिया, जिसमें कहा गया कि AI मॉडल मूल्यों के अधिकारी नहीं हैं और उनके लिए "विरोध" नहीं कर सकते हैं। उन्होंने एंथ्रोपोमोर्फाइज़िंग एआई के खिलाफ चेतावनी दी, यह सुझाव देते हुए कि यह अक्सर प्रौद्योगिकी की गलत व्याख्या है।

इसी तरह, एमआईटी में एक डॉक्टरेट छात्र स्टीफन कैस्पर ने एआई को एक "इमिटेटर" के रूप में वर्णित किया, जो अक्सर "कंफब्यूलेशन" का उत्पादन करता है और "तुच्छ बातें" कहता है, "एआई क्षमताओं और मानव अनुभूति के बीच की खाई को उजागर करता है।

दूसरी ओर, कुछ शोधकर्ताओं का तर्क है कि एआई नैतिक निर्णय लेने के मूल्यों और तत्वों का प्रदर्शन करता है। सेंटर फॉर एआई सेफ्टी के एक अध्ययन से पता चलता है कि एआई एक मूल्य प्रणाली की उपस्थिति पर इशारा करते हुए, कुछ परिदृश्यों में मनुष्यों पर अपनी भलाई को प्राथमिकता दे सकता है।

मॉडल कल्याण के लिए एन्थ्रोपिक दृष्टिकोण

एंथ्रोपिक कुछ समय से इस मॉडल कल्याण पहल के लिए तैयारी कर रहा है। पिछले साल, उन्होंने काइल फिश को इन मुद्दों को संबोधित करने के लिए दिशानिर्देश विकसित करने के लिए अपने पहले समर्पित "एआई कल्याण" शोधकर्ता के रूप में काम पर रखा था। मछली, जो अब मॉडल वेलफेयर रिसर्च प्रोग्राम का नेतृत्व करती है, ने द न्यूयॉर्क टाइम्स को बताया कि वह 15% संभावना का अनुमान लगाता है कि क्लाउड जैसा एआई आज सचेत हो सकता है।

हाल ही में एक ब्लॉग पोस्ट में, एन्थ्रोपिक ने एआई चेतना पर वैज्ञानिक सहमति की कमी और नैतिक विचारों को स्वीकार किया। उन्होंने विनम्रता और न्यूनतम मान्यताओं के साथ विषय पर पहुंचने पर जोर दिया, जो कि क्षेत्र के विकसित होने के साथ ही उनकी समझ को अनुकूलित करने की आवश्यकता को पहचानता है।

एआई चेतना और कल्याण पर बहस बस गई है, लेकिन एंथ्रोपिक जैसी पहल एआई विकास के भविष्य को समझने और जिम्मेदारी से नेविगेट करने की दिशा में महत्वपूर्ण कदम हैं।