Openai का नया AI डिटेक्शन टूल: छात्र को धोखा देने से रोकने में एक गेम-चेंजर?

BestColleges के एक सर्वेक्षण के अनुसार, आधे से अधिक छात्र AI को अकादमिक सफलता के लिए एक शॉर्टकट के रूप में बदल रहे हैं। यह एक स्टैनफोर्ड विश्वविद्यालय के एक अध्ययन के साथ संरेखित करता है जो 60 से 70 प्रतिशत छात्रों के बीच पाया गया था। हालांकि, निबंध लिखने के लिए चैट जैसे एआई का उपयोग करने के दिनों को गिना जा सकता है। एक वॉल स्ट्रीट जर्नल के लेख में कहा गया है कि ओपनआईए ने दावा किया है कि 99.9% सटीकता के साथ एआई-जनित सामग्री का पता लगाने के लिए एक विधि विकसित की है।

मेरे सहयोगी डेविड ग्विर्ट्ज़ ने नोट किया है कि कई कार्यक्रम पहले से ही एआई-लिखित पाठ को हाजिर करने का दावा करते हैं। फिर भी, वह संदेह करता है, "मैं निश्चित रूप से एक छात्र की शैक्षणिक खड़े होने को खतरे में डालने या इन उपकरणों के परिणामों के आधार पर धोखा देने का आरोप लगाने में सहज महसूस नहीं करूंगा।"

Openai ने बीन्स को इस बात पर नहीं छोड़ा है कि उनकी विधि इस तरह के पास-सही पता लगाने के लिए कैसे प्राप्त करती है। यह एआई की "मतिभ्रम" या झूठी जानकारी का उत्पादन करने की प्रवृत्ति को पकड़ने के बारे में नहीं है, क्योंकि ओपनआईए के सह-संस्थापक जॉन शुलमैन ने पिछले साल स्वीकार किया था, "हमारी सबसे बड़ी चिंता तथ्यात्मकता के आसपास थी क्योंकि मॉडल चीजों को गढ़ना पसंद करता है।"

मशीन लर्निंग टेस्टिंग सेवा, कोलेना के सह-संस्थापक और सीईओ मोहम्मद एल्गेंडी का मानना ​​है कि जबकि एआई की मतिभ्रम दर में कमी हो सकती है, यह पूरी तरह से कभी भी गायब नहीं होगा। वह इसकी तुलना सबसे अधिक शिक्षित व्यक्तियों से भी करता है, जो कभी -कभी गलत सूचना फैलाते हैं।

कुछ रहस्यमय गहरी तकनीक पर भरोसा करने के बजाय, Openai एक सीधा दृष्टिकोण का उपयोग कर रहा है: वॉटरमार्किंग। हाल ही में अपडेट किए गए ब्लॉग पोस्ट में "हम जो कुछ भी देखते हैं और सुनते हैं, उसके स्रोत को समझते हैं," ओपनई ने एआई-जनित सामग्री की पहचान करने के लिए क्लासिफायर, वॉटरमार्किंग और मेटाडेटा की खोज करने का उल्लेख किया है। इस वॉटरमार्किंग के सटीक यांत्रिकी रैप्स के तहत बने हुए हैं।

Openai का दावा है कि यह विधि पैराफ्रासिंग की तरह स्थानीयकृत छेड़छाड़ के खिलाफ अत्यधिक सटीक और लचीला साबित हुई है। हालांकि, यह वैश्विक छेड़छाड़ के साथ संघर्ष करता है, जैसे कि अनुवादित पाठ या सम्मिलित करना और फिर विशेष वर्णों को हटाना। इसके अलावा, यह अन्य एआई मॉडल द्वारा उत्पादित सामग्री का पता लगाने के लिए डिज़ाइन नहीं किया गया है, जैसे कि Google मिथुन या पेरप्लेक्सिटी।

संक्षेप में, थोड़ा अधिक प्रयास के साथ, छात्र और लेखक अभी भी एआई-जनित कार्य पिछले डिटेक्टरों को छीनने में सक्षम हो सकते हैं। मेरे अपने अनुभव से, एआई-निर्मित सामग्री अक्सर दूसरी दर महसूस करती है, लेकिन कुछ के लिए, एक पासिंग ग्रेड की जरूरत हो सकती है।

Reddit पर एक स्व-घोषित प्रोफेसर आश्वस्त नहीं है, यह कहते हुए, "समस्या यह है कि आप पाठ को किसी अन्य कार्यक्रम में कॉपी-पेस्ट कर सकते हैं, इसे दूसरी भाषा में अनुवाद कर सकते हैं, और फिर इसे वापस अनुवाद कर सकते हैं। लेकिन ईमानदारी से, ज्यादातर छात्र ऐसा करने जा रहे हैं, इसलिए यह सभी को बहुत ज्यादा पकड़ लेगा।"

ओपनईई के सीईओ सैम अल्टमैन ने हार्वर्ड गजट को बताते हुए अकादमिक धोखा के बारे में कम चिंतित हैं, "होमवर्क पर धोखा देना स्पष्ट रूप से बुरा है। लेकिन हमें धोखा देने से क्या मतलब है और समय के साथ अपेक्षित नियम क्या बदलते हैं।"

मुझे यकीन नहीं है कि मैं उस परिप्रेक्ष्य से सहमत हूं। धोखा दे रहा है, और Openai का यह नया उपकरण ऐसा नहीं लगता है कि यह समस्या में एक महत्वपूर्ण सेंध लगाएगा।

दिलचस्प बात यह है कि ओपनआईई ने इस टेक्स्ट डिटेक्शन सर्विस की रिलीज़ पर बहस की, वे एक डल · ई 3 प्रोवेंस क्लासिफायर के साथ आगे बढ़ रहे हैं। जल्द ही, Dall-E के साथ बनाई गई लगभग हर छवि को C2PA मेटाडेटा का उपयोग करके AI- जनित के रूप में टैग किया जाएगा। यदि आप एक ग्राफिक डिजाइनर हैं, जो "मूल" ग्राफिक्स के लिए डल-ई पर झुक रहा है, तो यह आपके फ़ोटोशॉप कौशल पर ब्रश करने का समय हो सकता है।