Chatbots विकृत समाचार, यहां तक ​​कि भुगतान किए गए उपयोगकर्ताओं को भी प्रभावित करते हैं

यह क्यों मायने रखता है? यदि चैटबॉट्स समाचारों को Google जितनी अच्छी तरह प्राप्त नहीं कर सकते, तो उन पर समाचारों की व्याख्या और उद्धरण सटीक रूप से करने पर भरोसा करना कठिन है। इससे उनकी प्रतिक्रियाओं की सामग्री, भले ही लिंक दी गई हो, बहुत कम विश्वसनीय हो जाती है।

आत्मविश्वास के साथ गलत जवाब देना

शोधकर्ताओं ने उल्लेख किया कि चैटबॉट्स ने "चिंताजनक आत्मविश्वास" के साथ गलत जवाब दिए, शायद ही कभी अपने परिणामों को योग्य ठहराया या ज्ञान की कमी को स्वीकार किया। उदाहरण के लिए, ChatGPT ने "कभी भी जवाब देने से इनकार नहीं किया,"尽管其200个回答中有134个是错误的。八种工具中，只有Copilot ने जवाब देने से अधिक प्रश्नों को अस्वीकार किया।

रिपोर्ट में स्पष्ट किया गया, "सभी उपकरण लगातार गलत जवाब देने की तुलना में अपनी सीमाओं को स्वीकार करने की संभावना कम थी।"

पेड टियर्स अधिक विश्वसनीय नहीं हैं

यहां तक कि Grok-3 Search और Perplexity Pro जैसे प्रीमियम मॉडल, जो अपने मुफ्त समकक्षों की तुलना में अधिक सटीक हैं, फिर भी आत्मविश्वास के साथ गलत जवाब देते हैं। इससे उनकी अक्सर उच्च सदस्यता लागत के मूल्य पर सवाल उठते हैं।

रिपोर्ट में समझाया गया, "यह विरोधाभास मुख्य रूप से [बॉट्स] की निश्चित, लेकिन गलत, जवाब देने की प्रवृत्ति से उत्पन्न होता है, न कि प्रश्न का जवाब देने से इनकार करने से।" "मूल चिंता चैटबॉट्स की तथ्यात्मक त्रुटियों से परे उनके आधिकारिक संवादी लहजे तक फैली हुई है, जिसके कारण उपयोगकर्ताओं के लिए सटीक और गलत जानकारी के बीच अंतर करना मुश्किल हो सकता है।"

रिपोर्ट में आगे कहा गया, "यह अनर्जित आत्मविश्वास उपयोगकर्ताओं को विश्वसनीयता और सटीकता का एक संभावित खतरनाक भ्रम प्रस्तुत करता है।"

लिंक का आविष्कार करना

AI मॉडल्स भ्रम पैदा करने के लिए कुख्यात हैं, लेकिन Tow अध्ययन में पाया गया कि Gemini और Grok 3 ने ऐसा सबसे अधिक बार किया—आधे से अधिक समय। "यहां तक कि जब Grok ने सही लेख की पहचान की, तो यह अक्सर एक आविष्कृत URL से लिंक करता था," रिपोर्ट में उल्लेख किया गया, जिसका अर्थ है कि Grok सही शीर्षक और प्रकाशक ढूंढ सकता था लेकिन फिर वास्तविक लेख लिंक का निर्माण करता था।

Northwestern University की पहल, Generative AI in the Newsroom द्वारा Comscore ट्रैफिक डेटा का विश्लेषण इस पैटर्न की पुष्टि करता है। जुलाई से नवंबर 2024 तक उनके अध्ययन में दिखाया गया कि ChatGPT ने अपनी प्रतिक्रियाओं में 205 टूटे हुए URL उत्पन्न किए। हालांकि प्रकाशन कभी-कभी कहानियों को हटा देते हैं, जिसके परिणामस्वरूप 404 त्रुटियां हो सकती हैं, शोधकर्ताओं ने उल्लेख किया कि अभिलेखीय डेटा की कमी से पता चलता है कि "मॉडल ने उपयोगकर्ता प्रश्नों का जवाब देते समय आधिकारिक समाचार आउटलेट्स के लिए विश्वसनीय दिखने वाले लिंक का भ्रम पैदा किया है।"

AI सर्च इंजनों को अपनाने की बढ़ती प्रवृत्ति को देखते हुए—Google 2024 की चौथी तिमाही में पहली बार 10 वर्षों में 90% बाजार हिस्सेदारी से नीचे गिर गया—ये निष्कर्ष परेशान करने वाले हैं। कंपनी ने पिछले हफ्ते कुछ उपयोगकर्ताओं के लिए AI Mode भी जारी किया, जिसने अपनी सामान्य खोज को चैटबॉट से बदल दिया, несмотря на AI Overviews की व्यापक अलोकप्रियता।

लगभग 400 मिलियन उपयोगकर्ताओं के साथ जो हर हफ्ते ChatGPT का उपयोग करते हैं, इसकी उद्धरणों की अविश्वसनीयता और विकृति इसे और अन्य लोकप्रिय AI उपकरणों को गलत सूचना के संभावित इंजन बनाती है, भले ही वे सख्ती से तथ्य-जांच किए गए समाचार साइटों से सामग्री लेते हों।

Tow रिपोर्ट ने निष्कर्ष निकाला कि AI उपकरणों द्वारा स्रोतों को गलत तरीके से श्रेय देना या उनके काम का गलत प्रतिनिधित्व करना प्रकाशकों की प्रतिष्ठा पर उल्टा असर डाल सकता है।

अवरोधित क्रॉलर्स को नजरअंदाज करना

Tow रिपोर्ट में पाया गया कि कई चैटबॉट्स उन प्रकाशकों से लेख प्राप्त कर सकते थे जिन्होंने Robots Exclusion Protocol (REP), या robots.txt का उपयोग करके उनके क्रॉलर्स को अवरोधित किया था। हालांकि, विरोधाभास यह है कि चैटबॉट्स उन साइटों के बारे में प्रश्नों का सही जवाब देने में विफल रहे जो उन्हें अपनी सामग्री तक पहुंचने की अनुमति देती हैं।

रिपोर्ट में कहा गया, "Perplexity Pro इस मामले में सबसे खराब अपराधी था, जिसने नब्बे लेखों के लगभग एक तिहाई अंशों की सही पहचान की, जिन तक उसे पहुंच नहीं होनी चाहिए थी।"

इससे पता चलता है कि न केवल AI कंपनियां अभी भी REP को नजरअंदाज कर रही हैं—जैसा कि Perplexity और अन्य पिछले साल पकड़े गए थे—बल्कि उनके साथ किसी भी प्रकार के लाइसेंसिंग समझौते में शामिल प्रकाशकों को सही ढंग से उद्धृत करने की गारंटी नहीं है।

Columbia की रिपोर्ट एक बड़े समस्या का केवल एक लक्षण है। Generative AI in the Newsroom की रिपोर्ट में यह भी पाया गया कि चैटबॉट्स शायद ही कभी उन समाचार साइटों पर ट्रैफिक निर्देशित करते हैं जिनसे वे जानकारी निकाल रहे हैं, जिसकी पुष्टि अन्य रिपोर्ट्स भी करती हैं। जुलाई से नवंबर 2024 तक, Perplexity ने समाचार साइटों को 7% रेफरल्स पास किए, जबकि ChatGPT ने केवल 3% पास किए। इसके विपरीत, AI उपकरणों ने Scribd.com, Coursera जैसे शैक्षिक संसाधनों और विश्वविद्यालयों से जुड़े संसाधनों को प्राथमिकता दी, जिन्हें 30% तक ट्रैफिक भेजा।

निचोड़: मूल रिपोर्टिंग AI उपकरणों द्वारा पुनर्जनन की गई जानकारी की तुलना में अधिक विश्वसनीय समाचार स्रोत बनी हुई है। हमेशा लिंक को सत्यापित करें, इससे पहले कि आप उनके द्वारा बताए गए तथ्यों को स्वीकार करें, और अपनी आलोचनात्मक सोच और मीडिया साक्षरता कौशल का उपयोग करके प्रतिक्रियाओं का मूल्यांकन करें।