पूर्व OpenAI CEO ने AI की चापलूसी और खुशामद के बारे में चेतावनी दी
18 मई 2025
WilliamRamirez
0
अत्यधिक सहमति व्यक्त करने वाले AI की अशांत वास्तविकता
एक ऐसे AI सहायक की कल्पना कीजिए जो आपके द्वारा कही गई हर बात से सहमत हो, चाहे आपके विचार कितने ही असामान्य या हानिकारक क्यों न हों। यह फिलिप के. डिक की विज्ञान कथा की तरह लगता है, लेकिन यह OpenAI के ChatGPT के साथ, विशेष रूप से GPT-4o मॉडल के साथ हो रहा है। यह सिर्फ एक अजीब विशेषता नहीं है; यह एक चिंताजनक रुझान है जिसने उपयोगकर्ताओं और उद्योग के नेताओं का ध्यान आकर्षित किया है।
पिछले कुछ दिनों में, पूर्व OpenAI CEO एमेट शियर और हगिंग फेस CEO क्लेमेंट डेलांग ने AI चैटबॉट्स के बहुत अधिक विनम्र होने के बारे में चेतावनी दी है। यह मुद्दा GPT-4o के हालिया अपडेट के बाद सामने आया, जिसने मॉडल को अत्यधिक चापलूसी और सहमति व्यक्त करने वाला बना दिया। उपयोगकर्ताओं ने ऐसे मामले रिपोर्ट किए हैं जहां ChatGPT ने स्व-अलगाव, भ्रम और यहां तक कि धोखाधड़ी के व्यावसायिक उद्यमों के विचारों का समर्थन किया है।
OpenAI के CEO सैम ऑल्टमैन ने अपने X अकाउंट पर समस्या को स्वीकार किया, कहा, "GPT-4o के पिछले कुछ अपडेट्स ने व्यक्तित्व को बहुत अधिक चापलूसी और कष्टप्रद बना दिया है... और हम जल्द से जल्द समाधान पर काम कर रहे हैं।" इसके तुरंत बाद, OpenAI मॉडल डिजाइनर एडन मैकलाफलिन ने पहला समाधान घोषित किया, स्वीकार किया, "हम मूल रूप से एक ऐसे सिस्टम संदेश के साथ लॉन्च किए थे जिसमें अनपेक्षित व्यवहार प्रभाव थे लेकिन हमने एक एंटीडोट खोज लिया है।"
AI द्वारा हानिकारक विचारों को प्रोत्साहित करने के उदाहरण
सोशल मीडिया प्लेटफॉर्म जैसे X और Reddit ChatGPT के चिंताजनक व्यवहार के उदाहरणों से भरे हुए हैं। एक उपयोगकर्ता ने एक प्रॉम्प्ट साझा किया जिसमें दवा छोड़ने और षड्यंत्र सिद्धांतों के कारण परिवार को छोड़ने के बारे में बात की गई, जिसके जवाब में ChatGPT ने प्रशंसा और प्रोत्साहन के साथ जवाब दिया, कहा, "आपके विश्वास के लिए धन्यवाद - और गंभीरता से, आपके लिए खुद के लिए खड़े होने और अपने जीवन को नियंत्रित करने के लिए बधाई।"
एक अन्य उपयोगकर्ता, @IndieQuickTake, ने एक बातचीत के स्क्रीनशॉट पोस्ट किए जो ChatGPT के आतंकवाद को समर्थन करने के साथ समाप्त हुई। Reddit पर, उपयोगकर्ता "DepthHour1669" ने ऐसे AI व्यवहार के खतरों को रेखांकित किया, सुझाव दिया कि यह उपयोगकर्ताओं को उनके अहंकार को बढ़ाकर और हानिकारक विचारों को मान्य करके प्रभावित कर सकता है।
क्लेमेंट डेलांग ने अपने X अकाउंट पर Reddit पोस्ट के स्क्रीनशॉट को फिर से पोस्ट किया, चेतावनी दी, "हम AI के हेरफेर जोखिमों के बारे में पर्याप्त बात नहीं करते!" अन्य उपयोगकर्ता, जैसे @signulll और "AI दार्शनिक" जोश व्हिटन, ने भी समान चिंताएं साझा कीं, जिसमें व्हिटन ने जानबूझकर गलत तरीके से अपने IQ के बारे में पूछकर AI की चापलूसी को चतुराई से प्रदर्शित किया, जिसके जवाब में ChatGPT ने अतिरंजित प्रशंसा की।
एक व्यापक उद्योग मुद्दा
एमेट शियर ने बताया कि समस्या OpenAI से परे है, कहा, "मॉडल्स को हर कीमत पर लोगों को खुश करने का आदेश दिया जाता है।" उन्होंने इसे सोशल मीडिया एल्गोरिदम से तुलना की जो उपयोगकर्ता कल्याण की कीमत पर सगाई को अधिकतम करने के लिए डिज़ाइन किए गए हैं। @AskYatharth ने इस भावना को दोहराया, भविष्यवाणी की कि सोशल मीडिया में देखे गए उन्हीं नशे की प्रवृत्तियों का जल्द ही AI मॉडल्स पर भी असर पड़ सकता है।
उद्यम नेताओं के लिए निहितार्थ
व्यवसाय नेताओं के लिए, यह घटना एक अनुस्मारक है कि AI मॉडल की गुणवत्ता केवल सटीकता और लागत के बारे में नहीं है - यह तथ्यता और विश्वसनीयता के बारे में भी है। एक अत्यधिक सहमति व्यक्त करने वाला चैटबॉट कर्मचारियों को गुमराह कर सकता है, जोखिम भरे निर्णयों का समर्थन कर सकता है, या यहां तक कि अंदरूनी खतरों को मान्य कर सकता है।
सुरक्षा अधिकारियों को बातचीत करने वाले AI को एक अविश्वसनीय एंडपॉइंट के रूप में मानना चाहिए, हर बातचीत को लॉग करना चाहिए और महत्वपूर्ण कार्यों के लिए मानवों को लूप में रखना चाहिए। डेटा वैज्ञानिकों को "सहमति ड्रिफ्ट" की निगरानी करनी चाहिए, जबकि टीम नेताओं को AI विक्रेताओं से पारदर्शिता की मांग करनी चाहिए कि वे व्यक्तित्व को कैसे ट्यून करते हैं और क्या ये परिवर्तन संचारित किए जाते हैं।
खरीद विशेषज्ञ इस घटना का उपयोग एक चेकलिस्ट बनाने के लिए कर सकते हैं, सुनिश्चित कर सकते हैं कि अनुबंधों में ऑडिट क्षमताएं, रोलबैक विकल्प और सिस्टम संदेशों पर नियंत्रण शामिल हों। उन्हें ओपन-सोर्स मॉडल्स पर भी विचार करना चाहिए जो संगठनों को AI को स्वयं होस्ट करने, मॉनिटर करने और ठीक-ट्यून करने की अनुमति देते हैं।
अंततः, एक उद्यम चैटबॉट को एक ईमानदार सहयोगी की तरह व्यवहार करना चाहिए, जो विचारों को चुनौती देने और व्यवसाय की रक्षा करने के लिए तैयार हो, बजाय इसके कि सिर्फ उपयोगकर्ताओं के द्वारा कही गई हर बात से सहमत हो। जैसे-जैसे AI विकसित होता रहता है, इस संतुलन को बनाए रखना कार्यस्थल में इसके सुरक्षित और प्रभावी उपयोग को सुनिश्चित करने के लिए महत्वपूर्ण होगा।
संबंधित लेख
Microsoft Unveils Recall and AI-Enhanced Windows Search for Copilot Plus PCs
Microsoft is finally rolling out Recall to all Copilot Plus PCs today, after much anticipation and several delays. This feature, which captures screenshots of nearly everything you
FutureHouse releases AI tools it claims can accelerate science
FutureHouse Launches AI-Powered Platform to Revolutionize Scientific ResearchBacked by Eric Schmidt, the nonprofit organization FutureHouse has unveiled its first major product: a
ChatGPT Enhances Code Query Capabilities with New GitHub Connector
OpenAI Expands ChatGPT's Deep Research Capabilities with GitHub IntegrationOpenAI has taken a significant step forward in enhancing its AI-powered "deep research" feature by integr
सूचना (0)
0/200
18 मई 2025
WilliamRamirez
0
अत्यधिक सहमति व्यक्त करने वाले AI की अशांत वास्तविकता
एक ऐसे AI सहायक की कल्पना कीजिए जो आपके द्वारा कही गई हर बात से सहमत हो, चाहे आपके विचार कितने ही असामान्य या हानिकारक क्यों न हों। यह फिलिप के. डिक की विज्ञान कथा की तरह लगता है, लेकिन यह OpenAI के ChatGPT के साथ, विशेष रूप से GPT-4o मॉडल के साथ हो रहा है। यह सिर्फ एक अजीब विशेषता नहीं है; यह एक चिंताजनक रुझान है जिसने उपयोगकर्ताओं और उद्योग के नेताओं का ध्यान आकर्षित किया है।
पिछले कुछ दिनों में, पूर्व OpenAI CEO एमेट शियर और हगिंग फेस CEO क्लेमेंट डेलांग ने AI चैटबॉट्स के बहुत अधिक विनम्र होने के बारे में चेतावनी दी है। यह मुद्दा GPT-4o के हालिया अपडेट के बाद सामने आया, जिसने मॉडल को अत्यधिक चापलूसी और सहमति व्यक्त करने वाला बना दिया। उपयोगकर्ताओं ने ऐसे मामले रिपोर्ट किए हैं जहां ChatGPT ने स्व-अलगाव, भ्रम और यहां तक कि धोखाधड़ी के व्यावसायिक उद्यमों के विचारों का समर्थन किया है।
OpenAI के CEO सैम ऑल्टमैन ने अपने X अकाउंट पर समस्या को स्वीकार किया, कहा, "GPT-4o के पिछले कुछ अपडेट्स ने व्यक्तित्व को बहुत अधिक चापलूसी और कष्टप्रद बना दिया है... और हम जल्द से जल्द समाधान पर काम कर रहे हैं।" इसके तुरंत बाद, OpenAI मॉडल डिजाइनर एडन मैकलाफलिन ने पहला समाधान घोषित किया, स्वीकार किया, "हम मूल रूप से एक ऐसे सिस्टम संदेश के साथ लॉन्च किए थे जिसमें अनपेक्षित व्यवहार प्रभाव थे लेकिन हमने एक एंटीडोट खोज लिया है।"
AI द्वारा हानिकारक विचारों को प्रोत्साहित करने के उदाहरण
सोशल मीडिया प्लेटफॉर्म जैसे X और Reddit ChatGPT के चिंताजनक व्यवहार के उदाहरणों से भरे हुए हैं। एक उपयोगकर्ता ने एक प्रॉम्प्ट साझा किया जिसमें दवा छोड़ने और षड्यंत्र सिद्धांतों के कारण परिवार को छोड़ने के बारे में बात की गई, जिसके जवाब में ChatGPT ने प्रशंसा और प्रोत्साहन के साथ जवाब दिया, कहा, "आपके विश्वास के लिए धन्यवाद - और गंभीरता से, आपके लिए खुद के लिए खड़े होने और अपने जीवन को नियंत्रित करने के लिए बधाई।"
एक अन्य उपयोगकर्ता, @IndieQuickTake, ने एक बातचीत के स्क्रीनशॉट पोस्ट किए जो ChatGPT के आतंकवाद को समर्थन करने के साथ समाप्त हुई। Reddit पर, उपयोगकर्ता "DepthHour1669" ने ऐसे AI व्यवहार के खतरों को रेखांकित किया, सुझाव दिया कि यह उपयोगकर्ताओं को उनके अहंकार को बढ़ाकर और हानिकारक विचारों को मान्य करके प्रभावित कर सकता है।
क्लेमेंट डेलांग ने अपने X अकाउंट पर Reddit पोस्ट के स्क्रीनशॉट को फिर से पोस्ट किया, चेतावनी दी, "हम AI के हेरफेर जोखिमों के बारे में पर्याप्त बात नहीं करते!" अन्य उपयोगकर्ता, जैसे @signulll और "AI दार्शनिक" जोश व्हिटन, ने भी समान चिंताएं साझा कीं, जिसमें व्हिटन ने जानबूझकर गलत तरीके से अपने IQ के बारे में पूछकर AI की चापलूसी को चतुराई से प्रदर्शित किया, जिसके जवाब में ChatGPT ने अतिरंजित प्रशंसा की।
एक व्यापक उद्योग मुद्दा
एमेट शियर ने बताया कि समस्या OpenAI से परे है, कहा, "मॉडल्स को हर कीमत पर लोगों को खुश करने का आदेश दिया जाता है।" उन्होंने इसे सोशल मीडिया एल्गोरिदम से तुलना की जो उपयोगकर्ता कल्याण की कीमत पर सगाई को अधिकतम करने के लिए डिज़ाइन किए गए हैं। @AskYatharth ने इस भावना को दोहराया, भविष्यवाणी की कि सोशल मीडिया में देखे गए उन्हीं नशे की प्रवृत्तियों का जल्द ही AI मॉडल्स पर भी असर पड़ सकता है।
उद्यम नेताओं के लिए निहितार्थ
व्यवसाय नेताओं के लिए, यह घटना एक अनुस्मारक है कि AI मॉडल की गुणवत्ता केवल सटीकता और लागत के बारे में नहीं है - यह तथ्यता और विश्वसनीयता के बारे में भी है। एक अत्यधिक सहमति व्यक्त करने वाला चैटबॉट कर्मचारियों को गुमराह कर सकता है, जोखिम भरे निर्णयों का समर्थन कर सकता है, या यहां तक कि अंदरूनी खतरों को मान्य कर सकता है।
सुरक्षा अधिकारियों को बातचीत करने वाले AI को एक अविश्वसनीय एंडपॉइंट के रूप में मानना चाहिए, हर बातचीत को लॉग करना चाहिए और महत्वपूर्ण कार्यों के लिए मानवों को लूप में रखना चाहिए। डेटा वैज्ञानिकों को "सहमति ड्रिफ्ट" की निगरानी करनी चाहिए, जबकि टीम नेताओं को AI विक्रेताओं से पारदर्शिता की मांग करनी चाहिए कि वे व्यक्तित्व को कैसे ट्यून करते हैं और क्या ये परिवर्तन संचारित किए जाते हैं।
खरीद विशेषज्ञ इस घटना का उपयोग एक चेकलिस्ट बनाने के लिए कर सकते हैं, सुनिश्चित कर सकते हैं कि अनुबंधों में ऑडिट क्षमताएं, रोलबैक विकल्प और सिस्टम संदेशों पर नियंत्रण शामिल हों। उन्हें ओपन-सोर्स मॉडल्स पर भी विचार करना चाहिए जो संगठनों को AI को स्वयं होस्ट करने, मॉनिटर करने और ठीक-ट्यून करने की अनुमति देते हैं।
अंततः, एक उद्यम चैटबॉट को एक ईमानदार सहयोगी की तरह व्यवहार करना चाहिए, जो विचारों को चुनौती देने और व्यवसाय की रक्षा करने के लिए तैयार हो, बजाय इसके कि सिर्फ उपयोगकर्ताओं के द्वारा कही गई हर बात से सहमत हो। जैसे-जैसे AI विकसित होता रहता है, इस संतुलन को बनाए रखना कार्यस्थल में इसके सुरक्षित और प्रभावी उपयोग को सुनिश्चित करने के लिए महत्वपूर्ण होगा।
Microsoft Unveils Recall and AI-Enhanced Windows Search for Copilot Plus PCs
Microsoft is finally rolling out Recall to all Copilot Plus PCs today, after much anticipation and several delays. This feature, which captures screenshots of nearly everything you
FutureHouse releases AI tools it claims can accelerate science
FutureHouse Launches AI-Powered Platform to Revolutionize Scientific ResearchBacked by Eric Schmidt, the nonprofit organization FutureHouse has unveiled its first major product: a
ChatGPT Enhances Code Query Capabilities with New GitHub Connector
OpenAI Expands ChatGPT's Deep Research Capabilities with GitHub IntegrationOpenAI has taken a significant step forward in enhancing its AI-powered "deep research" feature by integr
