शीर्ष वैश्विक जोखिम के रूप में पहचाने जाने वाले एआई-संचालित गलत सूचना

जैसा कि हम एक ऐसी अवधि के करीब पहुंचते हैं, जहां कई देश अगले दो वर्षों में चुनावों के लिए तैयार हो रहे हैं, गलत सूचना और विघटन का खतरा, कृत्रिम बुद्धिमत्ता (एआई) द्वारा टर्बोचार्ज्ड, सबसे महत्वपूर्ण वैश्विक जोखिम के रूप में बड़े पैमाने पर करघे। यह चिंता वर्ल्ड इकोनॉमिक फोरम (WEF) ग्लोबल रिस्क रिपोर्ट 2024 द्वारा रेखांकित की गई है, जो इस बात पर प्रकाश डालती है कि सामाजिक अशांति के साथ गलत जानकारी का परस्पर क्रिया सबसे आगे होगी, विशेष रूप से प्रमुख अर्थव्यवस्थाओं के चुनावों के साथ।

जीवन की लागत के बारे में बढ़ती चिंताओं के बीच, एआई-ईंधन की गलत सूचना से जुड़े जोखिम इस वर्ष अन्य चिंताओं को पूरा करने के लिए निर्धारित हैं। WEF के अनुसार, गलत सूचना और विघटन वैश्विक जोखिमों की सूची में शीर्ष पर रहेगा, चरम मौसम की घटनाओं और सामाजिक ध्रुवीकरण के बाद बारीकी से। रिपोर्ट में शीर्ष पांच जोखिमों के बीच साइबर असुरक्षा और अंतरराज्यीय सशस्त्र संघर्ष को भी सूचीबद्ध किया गया है।

जोखिम धारणा क्षेत्रीय विविधताएँ

जबकि गलत सूचना और विघटन को भारत में शीर्ष जोखिम माना जाता है, यह अमेरिका में छठे और यूरोपीय संघ में आठवें स्थान पर है। WEF बताता है कि परिष्कृत जानकारी की क्षमताओं में तेजी से त्वरण, परिष्कृत प्रौद्योगिकियों तक आसान पहुंच और सूचना और संस्थानों के प्रति विश्वास में गिरावट, स्थिति को बढ़ा रहा है।

सिंथेटिक सामग्री का प्रभाव

अगले कुछ वर्षों में, विभिन्न प्रकार के अभिनेताओं को सिंथेटिक सामग्री में वृद्धि का फायदा उठाने की उम्मीद है, जो आगे सामाजिक विभाजन, वैचारिक हिंसा और राजनीतिक दमन को तेज करते हैं। भारत, इंडोनेशिया, अमेरिका और यूके जैसे देशों में लगभग तीन बिलियन लोग मतदान करने के लिए निर्धारित किए गए, गलत सूचना के व्यापक प्रसार से नव निर्वाचित सरकारों की वैधता को खतरा हो सकता है।

उपयोगकर्ता के अनुकूल एआई टूल तक पहुंचने में आसानी ने पहले से ही फाल्डफाइड जानकारी और "सिंथेटिक" सामग्री, जैसे कि उन्नत वॉयस क्लोनिंग और नकली वेबसाइटों में उछाल पैदा कर दिया है। WEF ने चेतावनी दी है कि यह सिंथेटिक सामग्री अगले दो वर्षों में कई तरीकों से व्यक्तियों, नुकसान की अर्थव्यवस्थाओं और फ्रैक्चर समाजों में हेरफेर करेगी, संभवतः जलवायु सक्रियता से लेकर संघर्षों को बढ़ाने तक, विभिन्न उद्देश्यों के लिए संभावित रूप से उपयोग की जा रही है।

उभरते खतरे और नियामक प्रतिक्रियाएं

नए प्रकार के अपराध, जैसे कि गैर-सहमति दीपफेक पोर्नोग्राफी और शेयर बाजार हेरफेर भी बढ़ रहे हैं। WEF ने चेतावनी दी है कि इन मुद्दों से हिंसक विरोध, घृणा अपराध, नागरिक संघर्ष और आतंकवाद हो सकता है।

जवाब में, कुछ देश पहले से ही ऑनलाइन और अवैध सामग्री के मेजबान और रचनाकारों दोनों के उद्देश्य से नए नियमों को लागू कर रहे हैं। जनरेटिव एआई का नवजात विनियमन, जैसे कि एआई-जनित सामग्री को वॉटरमार्क करने के लिए चीन की आवश्यकता, एआई-जनित सामग्री से अनजाने में गलत सूचना सहित झूठी जानकारी की पहचान करने में मदद कर सकती है। हालांकि, WEF नोट करता है कि विनियमन की गति प्रौद्योगिकी के तेजी से विकास के साथ बनाए रखने की संभावना नहीं है।

हाल की तकनीकी प्रगति ने गलत जानकारी की मात्रा, पहुंच और प्रभावशीलता में वृद्धि की है, जिससे ट्रैक, विशेषता और नियंत्रण को कठिन बना दिया गया है। सोशल मीडिया प्लेटफॉर्म, अखंडता बनाए रखने के साथ काम करते हैं, कई अतिव्यापी अभियानों से अभिभूत हो सकते हैं। इसके अलावा, विघटन तेजी से व्यक्तिगत और लक्षित होता जा रहा है, अक्सर व्हाट्सएप या वीचैट जैसे कम पारदर्शी मैसेजिंग प्लेटफार्मों के माध्यम से फैल जाता है।

एआई-जनित सामग्री को अलग करने में चुनौतियां

WEF ने एआई-जनित और मानव-जनित सामग्री के बीच अंतर करने में बढ़ती कठिनाई को भी उजागर किया, यहां तक ​​कि परिष्कृत पता लगाने की प्रणालियों और तकनीक-प्रेमी व्यक्तियों के लिए भी। हालांकि, कुछ देश इस चुनौती को संबोधित करने के लिए कदम उठा रहे हैं।

सिंगापुर की पहल डीपफेक का मुकाबला करने के लिए

सिंगापुर ने एक ऑनलाइन ट्रस्ट और सुरक्षा अनुसंधान कार्यक्रम में एसजी $ 20 मिलियन ($ 15.04M) निवेश की घोषणा की है, जिसमें हानिकारक ऑनलाइन सामग्री से निपटने के लिए उपकरण विकसित करने के लिए एक केंद्र स्थापित करना शामिल है। संचार और सूचना मंत्रालय (MCI) के नेतृत्व में, यह पहल 2028 तक चलने के लिए निर्धारित है।

सेंटर फॉर एडवांस्ड टेक्नोलॉजीज इन ऑनलाइन सेफ्टी, 2024 की पहली छमाही में लॉन्च करने के लिए निर्धारित है, जिसका उद्देश्य एक सुरक्षित इंटरनेट के लिए एक मजबूत पारिस्थितिकी तंत्र बनाने के लिए शोधकर्ताओं और संगठनों को एक साथ लाना है। केंद्र हानिकारक सामग्री, जैसे कि डीपफेक और झूठे दावों का पता लगाने के लिए उपकरणों को विकसित करने और अनुकूलित करने पर ध्यान केंद्रित करेगा, और सामाजिक कमजोरियों की पहचान करने और हानिकारक सामग्री के लिए संवेदनशीलता को कम करने के लिए हस्तक्षेपों को विकसित करने पर भी काम करेगा।

MCI पहले से ही शिक्षाविदों और सार्वजनिक और निजी क्षेत्रों के 100 से अधिक पेशेवरों के साथ जुड़े हुए हैं, जिसमें 30 प्रतिभागी सीधे केंद्र के काम में शामिल हैं। विकसित किए गए उपकरणों का परीक्षण किया जाएगा और गोद लेने के लिए प्रस्तावित किया जाएगा, जिसका उद्देश्य वॉटरमार्किंग और सामग्री प्रमाणीकरण जैसी प्रौद्योगिकियों के माध्यम से डिजिटल ट्रस्ट को बढ़ाना है।

गलत सूचना के व्यापक निहितार्थ

WEF चेतावनी देता है कि अगर अनियंत्रित छोड़ दिया जाता है, तो गलत सूचना दो विपरीत परिदृश्यों को जन्म दे सकती है। एक तरफ, कुछ सरकारें और प्लेटफ़ॉर्म मुक्त भाषण और नागरिक स्वतंत्रता को प्राथमिकता दे सकते हैं, संभावित रूप से गलत जानकारी को प्रभावी ढंग से रोकने में विफल हो सकते हैं, जिससे समाजों में 'सत्य' की एक विवादास्पद परिभाषा हो सकती है। यह राज्य और गैर-राज्य अभिनेताओं द्वारा सामाजिक विभाजन को गहरा करने, राजनीतिक संस्थानों में सार्वजनिक विश्वास को कम करने और राष्ट्रीय सामंजस्य की धमकी देने के लिए शोषण किया जा सकता है।

दूसरी ओर, गलत सूचना के प्रसार के जवाब में, कुछ देश घरेलू प्रचार और सेंसरशिप को जोखिम में डालते हुए, सूचना पर नियंत्रण में वृद्धि का सहारा ले सकते हैं। जैसे -जैसे सत्य की अवधारणा को कम किया जाता है, सरकारें 'सत्य' की अपनी परिभाषा के आधार पर जानकारी को नियंत्रित करने के लिए अधिक शक्ति प्राप्त कर सकती हैं, संभावित रूप से सूचना प्रवाह के व्यापक दमन और इंटरनेट, प्रेस और सूचना का क्षरण के कटाव के लिए अग्रणी।