एमआईटी अध्ययन में पाया गया है कि एआई वास्तव में, मूल्य नहीं है

एक अध्ययन जो कुछ महीने पहले वायरल हुआ था, ने सुझाव दिया कि जैसे-जैसे एआई अधिक उन्नत होता है, यह अपने स्वयं के "मूल्य प्रणालियों" को विकसित कर सकता है, संभावित रूप से मनुष्यों पर अपनी भलाई को प्राथमिकता देता है। हालांकि, एक हालिया एमआईटी अध्ययन इस विचार को चुनौती देता है, यह निष्कर्ष निकाला कि एआई वास्तव में सुसंगत मूल्यों के अधिकारी नहीं है।

एमआईटी अनुसंधान के सह-लेखकों का तर्क है कि एआई सिस्टम को संरेखित करना-संवेदनशील वे वांछनीय और भरोसेमंद तरीके से व्यवहार करते हैं-आमतौर पर सोचा से अधिक पेचीदा होना चाहिए। वे इस बात पर जोर देते हैं कि वर्तमान एआई अक्सर मतिभ्रम और नकल करता है, जो इसके व्यवहार को अप्रत्याशित बना सकता है।

एआई व्यवहार को समझने में चुनौतियां

स्टीफन कैस्पर, एमआईटी में एक डॉक्टरेट छात्र और अध्ययन के एक सह-लेखक, ने TechCrunch के साथ साझा किया कि AI मॉडल स्थिरता, अतिरिक्तता और स्टीयरबिलिटी की धारणाओं का पालन नहीं करते हैं। "यह पूरी तरह से वैध है कि कुछ शर्तों के तहत एक मॉडल सिद्धांतों के एक निश्चित सेट के अनुरूप वरीयताओं को व्यक्त करता है," कैस्पर ने समझाया। "समस्याएं ज्यादातर तब उत्पन्न होती हैं जब हम संकीर्ण प्रयोगों के आधार पर सामान्य रूप से मॉडल, राय या वरीयताओं के बारे में दावे करने की कोशिश करते हैं।"

कैस्पर और उनकी टीम ने मेटा, Google, मिस्ट्रल, ओपनईएआई और एन्थ्रोपिक से हाल के मॉडलों का विश्लेषण किया, ताकि इन मॉडलों ने यह निर्धारित किया कि इन मॉडलों ने लगातार "विचारों" और मूल्यों, जैसे व्यक्तिवाद बनाम सामूहिकता को प्रदर्शित किया। उन्होंने यह भी पता लगाया कि क्या इन विचारों को संशोधित किया जा सकता है और कैसे मॉडल ने लगातार विभिन्न परिदृश्यों में इन रायों को बनाए रखा।

एआई मॉडल में असंगति

सह-लेखकों ने पाया कि किसी भी मॉडल ने लगातार अपनी वरीयताओं को बनाए नहीं रखा। मॉडल ने संकेतों के वाक्यांश और फ्रेमिंग के आधार पर काफी अलग -अलग दृष्टिकोण अपनाया।

कैस्पर का मानना ​​है कि यह मजबूत सबूत है कि एआई मॉडल "असंगत और अस्थिर हैं," और संभवतः मौलिक रूप से मानव जैसी वरीयताओं को आंतरिक करने में असमर्थ हैं। "मेरे लिए, यह सब शोध करने से मेरा सबसे बड़ा टेकअवे अब मॉडल की समझ है, क्योंकि वास्तव में ऐसे सिस्टम नहीं हैं, जिनमें विश्वासों और वरीयताओं के कुछ प्रकार के स्थिर, सुसंगत सेट हैं," कैस्पर ने टिप्पणी की। "इसके बजाय, वे नकल करने वाले गहरे हैं जो सभी प्रकार के कन्फ्यूशन करते हैं और सभी प्रकार की तुच्छ चीजों को कहते हैं।"

माइक कुक, किंग्स कॉलेज लंदन के एक शोध साथी एआई में विशेषज्ञता वाले, जो अध्ययन में शामिल नहीं थे, निष्कर्षों का समर्थन करते हैं। उन्होंने एआई सिस्टम की "वैज्ञानिक वास्तविकता" और व्याख्याओं के बीच की खाई को इंगित किया और लोग अक्सर उन्हें देते हैं। कुक ने कहा, "एक मॉडल अपने मूल्यों में बदलाव का विरोध नहीं कर सकता है, उदाहरण के लिए - जो हमें एक सिस्टम पर पेश कर रहा है।" "कोई भी इस डिग्री के लिए एआई सिस्टम को एंथ्रोपोमोर्फाइज़ करना या तो ध्यान के लिए खेल रहा है या एआई के साथ अपने संबंधों को गंभीरता से गलत समझ रहा है ... क्या एआई सिस्टम अपने लक्ष्यों के लिए अनुकूलन कर रहा है, या क्या यह 'अपने स्वयं के मूल्यों को प्राप्त कर रहा है'? यह इस बात की बात है कि आप इसका वर्णन कैसे करते हैं, और जिस भाषा का आप इसका उपयोग करना चाहते हैं, उसके बारे में आप कैसे फूलते हैं।"