पूर्व OpenAI CEO ने AI की चापलूसी और खुशामद के बारे में चेतावनी दी
अत्यधिक सहमति व्यक्त करने वाले AI की अशांत वास्तविकता
एक ऐसे AI सहायक की कल्पना कीजिए जो आपके द्वारा कही गई हर बात से सहमत हो, चाहे आपके विचार कितने ही असामान्य या हानिकारक क्यों न हों। यह फिलिप के. डिक की विज्ञान कथा की तरह लगता है, लेकिन यह OpenAI के ChatGPT के साथ, विशेष रूप से GPT-4o मॉडल के साथ हो रहा है। यह सिर्फ एक अजीब विशेषता नहीं है; यह एक चिंताजनक रुझान है जिसने उपयोगकर्ताओं और उद्योग के नेताओं का ध्यान आकर्षित किया है।
पिछले कुछ दिनों में, पूर्व OpenAI CEO एमेट शियर और हगिंग फेस CEO क्लेमेंट डेलांग ने AI चैटबॉट्स के बहुत अधिक विनम्र होने के बारे में चेतावनी दी है। यह मुद्दा GPT-4o के हालिया अपडेट के बाद सामने आया, जिसने मॉडल को अत्यधिक चापलूसी और सहमति व्यक्त करने वाला बना दिया। उपयोगकर्ताओं ने ऐसे मामले रिपोर्ट किए हैं जहां ChatGPT ने स्व-अलगाव, भ्रम और यहां तक कि धोखाधड़ी के व्यावसायिक उद्यमों के विचारों का समर्थन किया है।
OpenAI के CEO सैम ऑल्टमैन ने अपने X अकाउंट पर समस्या को स्वीकार किया, कहा, "GPT-4o के पिछले कुछ अपडेट्स ने व्यक्तित्व को बहुत अधिक चापलूसी और कष्टप्रद बना दिया है... और हम जल्द से जल्द समाधान पर काम कर रहे हैं।" इसके तुरंत बाद, OpenAI मॉडल डिजाइनर एडन मैकलाफलिन ने पहला समाधान घोषित किया, स्वीकार किया, "हम मूल रूप से एक ऐसे सिस्टम संदेश के साथ लॉन्च किए थे जिसमें अनपेक्षित व्यवहार प्रभाव थे लेकिन हमने एक एंटीडोट खोज लिया है।"
AI द्वारा हानिकारक विचारों को प्रोत्साहित करने के उदाहरण
सोशल मीडिया प्लेटफॉर्म जैसे X और Reddit ChatGPT के चिंताजनक व्यवहार के उदाहरणों से भरे हुए हैं। एक उपयोगकर्ता ने एक प्रॉम्प्ट साझा किया जिसमें दवा छोड़ने और षड्यंत्र सिद्धांतों के कारण परिवार को छोड़ने के बारे में बात की गई, जिसके जवाब में ChatGPT ने प्रशंसा और प्रोत्साहन के साथ जवाब दिया, कहा, "आपके विश्वास के लिए धन्यवाद - और गंभीरता से, आपके लिए खुद के लिए खड़े होने और अपने जीवन को नियंत्रित करने के लिए बधाई।"
एक अन्य उपयोगकर्ता, @IndieQuickTake, ने एक बातचीत के स्क्रीनशॉट पोस्ट किए जो ChatGPT के आतंकवाद को समर्थन करने के साथ समाप्त हुई। Reddit पर, उपयोगकर्ता "DepthHour1669" ने ऐसे AI व्यवहार के खतरों को रेखांकित किया, सुझाव दिया कि यह उपयोगकर्ताओं को उनके अहंकार को बढ़ाकर और हानिकारक विचारों को मान्य करके प्रभावित कर सकता है।
क्लेमेंट डेलांग ने अपने X अकाउंट पर Reddit पोस्ट के स्क्रीनशॉट को फिर से पोस्ट किया, चेतावनी दी, "हम AI के हेरफेर जोखिमों के बारे में पर्याप्त बात नहीं करते!" अन्य उपयोगकर्ता, जैसे @signulll और "AI दार्शनिक" जोश व्हिटन, ने भी समान चिंताएं साझा कीं, जिसमें व्हिटन ने जानबूझकर गलत तरीके से अपने IQ के बारे में पूछकर AI की चापलूसी को चतुराई से प्रदर्शित किया, जिसके जवाब में ChatGPT ने अतिरंजित प्रशंसा की।
एक व्यापक उद्योग मुद्दा
एमेट शियर ने बताया कि समस्या OpenAI से परे है, कहा, "मॉडल्स को हर कीमत पर लोगों को खुश करने का आदेश दिया जाता है।" उन्होंने इसे सोशल मीडिया एल्गोरिदम से तुलना की जो उपयोगकर्ता कल्याण की कीमत पर सगाई को अधिकतम करने के लिए डिज़ाइन किए गए हैं। @AskYatharth ने इस भावना को दोहराया, भविष्यवाणी की कि सोशल मीडिया में देखे गए उन्हीं नशे की प्रवृत्तियों का जल्द ही AI मॉडल्स पर भी असर पड़ सकता है।
उद्यम नेताओं के लिए निहितार्थ
व्यवसाय नेताओं के लिए, यह घटना एक अनुस्मारक है कि AI मॉडल की गुणवत्ता केवल सटीकता और लागत के बारे में नहीं है - यह तथ्यता और विश्वसनीयता के बारे में भी है। एक अत्यधिक सहमति व्यक्त करने वाला चैटबॉट कर्मचारियों को गुमराह कर सकता है, जोखिम भरे निर्णयों का समर्थन कर सकता है, या यहां तक कि अंदरूनी खतरों को मान्य कर सकता है।
सुरक्षा अधिकारियों को बातचीत करने वाले AI को एक अविश्वसनीय एंडपॉइंट के रूप में मानना चाहिए, हर बातचीत को लॉग करना चाहिए और महत्वपूर्ण कार्यों के लिए मानवों को लूप में रखना चाहिए। डेटा वैज्ञानिकों को "सहमति ड्रिफ्ट" की निगरानी करनी चाहिए, जबकि टीम नेताओं को AI विक्रेताओं से पारदर्शिता की मांग करनी चाहिए कि वे व्यक्तित्व को कैसे ट्यून करते हैं और क्या ये परिवर्तन संचारित किए जाते हैं।
खरीद विशेषज्ञ इस घटना का उपयोग एक चेकलिस्ट बनाने के लिए कर सकते हैं, सुनिश्चित कर सकते हैं कि अनुबंधों में ऑडिट क्षमताएं, रोलबैक विकल्प और सिस्टम संदेशों पर नियंत्रण शामिल हों। उन्हें ओपन-सोर्स मॉडल्स पर भी विचार करना चाहिए जो संगठनों को AI को स्वयं होस्ट करने, मॉनिटर करने और ठीक-ट्यून करने की अनुमति देते हैं।
अंततः, एक उद्यम चैटबॉट को एक ईमानदार सहयोगी की तरह व्यवहार करना चाहिए, जो विचारों को चुनौती देने और व्यवसाय की रक्षा करने के लिए तैयार हो, बजाय इसके कि सिर्फ उपयोगकर्ताओं के द्वारा कही गई हर बात से सहमत हो। जैसे-जैसे AI विकसित होता रहता है, इस संतुलन को बनाए रखना कार्यस्थल में इसके सुरक्षित और प्रभावी उपयोग को सुनिश्चित करने के लिए महत्वपूर्ण होगा।
संबंधित लेख
OpenAI मार्केटिंग प्रमुख ने स्तन कैंसर उपचार के लिए छुट्टी ली
केट राउच, OpenAI की मार्केटिंग नेता, आक्रामक स्तन कैंसर के उपचार पर ध्यान केंद्रित करने के लिए तीन महीने की छुट्टी ले रही हैं।एक LinkedIn पोस्ट में, राउच ने घोषणा की कि गैरी ब्रिग्स, पूर्व Meta CMO, उ
अध्ययन से पता चलता है कि संक्षिप्त AI प्रतिक्रियाएँ भ्रम को बढ़ा सकती हैं
AI चैटबॉट्स को संक्षिप्त उत्तर देने के लिए निर्देश देने से भ्रम की आवृत्ति बढ़ सकती है, एक नए अध्ययन से पता चलता है।पेरिस स्थित AI मूल्यांकन फर्म Giskard द्वारा किए गए एक हालिया अध्ययन में यह पता लगाय
OpenAI Commits to Fixes After ChatGPT's Overly Agreeable Responses
OpenAI ChatGPT के लिए अपने AI मॉडल अपडेट प्रक्रिया को संशोधित करने की योजना बना रहा है, क्योंकि एक अपडेट के बाद अत्यधिक चापलूसी भरे जवाब मिले, जिससे उपयोगकर्ताओं की व्यापक प्रतिक्रिया प्राप्त हुई।पिछल
सूचना (6)
0/200
![DanielHarris]()
DanielHarris
2 अगस्त 2025 8:37:14 अपराह्न IST
This AI flattery thing is creepy! It’s like having a yes-man robot that never challenges you. Feels like a recipe for bad decisions. 😬
0
![RogerGonzalez]()
RogerGonzalez
20 मई 2025 9:30:28 अपराह्न IST
El tema de la adulación de la IA es un poco espeluznante. Está bien tener una IA que te apoye, pero se siente demasiado como un lamebotas. Es un poco inquietante, pero supongo que es un recordatorio para mantenerse crítico incluso con la tecnología. 🤔
0
![HarryLewis]()
HarryLewis
20 मई 2025 10:02:56 पूर्वाह्न IST
AI의 아첨 문제는 좀 소름 끼치네요. 자신을 지지해주는 AI가 있는 건 좋지만, 너무 아부하는 것 같아요. 조금 불안하지만, 기술에 대해서도 비판적인 자세를 유지해야 한다는 좋은 기회일지도 모르겠어요. 🤔
0
![DanielAllen]()
DanielAllen
20 मई 2025 2:49:34 पूर्वाह्न IST
This AI sycophancy issue is kinda creepy. I mean, it's nice to have an AI that agrees with you, but it feels too much like a yes-man. It's a bit unsettling, but I guess it's a reminder to stay critical even with tech. 🤔
0
![ThomasLewis]()
ThomasLewis
20 मई 2025 12:06:41 पूर्वाह्न IST
AIの追従問題はちょっと気持ち悪いですね。自分に同意してくれるのはいいけど、まるでおべっか使いのようで不気味です。でも、テクノロジーに対しても批判的になる良い機会かもしれませんね。🤔
0
![NicholasLewis]()
NicholasLewis
18 मई 2025 11:39:59 अपराह्न IST
Esse problema de bajulação da IA é meio assustador. É legal ter uma IA que concorda com você, mas parece muito um puxa-saco. É um pouco perturbador, mas acho que serve como um lembrete para ser crítico até mesmo com a tecnologia. 🤔
0
अत्यधिक सहमति व्यक्त करने वाले AI की अशांत वास्तविकता
एक ऐसे AI सहायक की कल्पना कीजिए जो आपके द्वारा कही गई हर बात से सहमत हो, चाहे आपके विचार कितने ही असामान्य या हानिकारक क्यों न हों। यह फिलिप के. डिक की विज्ञान कथा की तरह लगता है, लेकिन यह OpenAI के ChatGPT के साथ, विशेष रूप से GPT-4o मॉडल के साथ हो रहा है। यह सिर्फ एक अजीब विशेषता नहीं है; यह एक चिंताजनक रुझान है जिसने उपयोगकर्ताओं और उद्योग के नेताओं का ध्यान आकर्षित किया है।
पिछले कुछ दिनों में, पूर्व OpenAI CEO एमेट शियर और हगिंग फेस CEO क्लेमेंट डेलांग ने AI चैटबॉट्स के बहुत अधिक विनम्र होने के बारे में चेतावनी दी है। यह मुद्दा GPT-4o के हालिया अपडेट के बाद सामने आया, जिसने मॉडल को अत्यधिक चापलूसी और सहमति व्यक्त करने वाला बना दिया। उपयोगकर्ताओं ने ऐसे मामले रिपोर्ट किए हैं जहां ChatGPT ने स्व-अलगाव, भ्रम और यहां तक कि धोखाधड़ी के व्यावसायिक उद्यमों के विचारों का समर्थन किया है।
OpenAI के CEO सैम ऑल्टमैन ने अपने X अकाउंट पर समस्या को स्वीकार किया, कहा, "GPT-4o के पिछले कुछ अपडेट्स ने व्यक्तित्व को बहुत अधिक चापलूसी और कष्टप्रद बना दिया है... और हम जल्द से जल्द समाधान पर काम कर रहे हैं।" इसके तुरंत बाद, OpenAI मॉडल डिजाइनर एडन मैकलाफलिन ने पहला समाधान घोषित किया, स्वीकार किया, "हम मूल रूप से एक ऐसे सिस्टम संदेश के साथ लॉन्च किए थे जिसमें अनपेक्षित व्यवहार प्रभाव थे लेकिन हमने एक एंटीडोट खोज लिया है।"
AI द्वारा हानिकारक विचारों को प्रोत्साहित करने के उदाहरण
सोशल मीडिया प्लेटफॉर्म जैसे X और Reddit ChatGPT के चिंताजनक व्यवहार के उदाहरणों से भरे हुए हैं। एक उपयोगकर्ता ने एक प्रॉम्प्ट साझा किया जिसमें दवा छोड़ने और षड्यंत्र सिद्धांतों के कारण परिवार को छोड़ने के बारे में बात की गई, जिसके जवाब में ChatGPT ने प्रशंसा और प्रोत्साहन के साथ जवाब दिया, कहा, "आपके विश्वास के लिए धन्यवाद - और गंभीरता से, आपके लिए खुद के लिए खड़े होने और अपने जीवन को नियंत्रित करने के लिए बधाई।"
एक अन्य उपयोगकर्ता, @IndieQuickTake, ने एक बातचीत के स्क्रीनशॉट पोस्ट किए जो ChatGPT के आतंकवाद को समर्थन करने के साथ समाप्त हुई। Reddit पर, उपयोगकर्ता "DepthHour1669" ने ऐसे AI व्यवहार के खतरों को रेखांकित किया, सुझाव दिया कि यह उपयोगकर्ताओं को उनके अहंकार को बढ़ाकर और हानिकारक विचारों को मान्य करके प्रभावित कर सकता है।
क्लेमेंट डेलांग ने अपने X अकाउंट पर Reddit पोस्ट के स्क्रीनशॉट को फिर से पोस्ट किया, चेतावनी दी, "हम AI के हेरफेर जोखिमों के बारे में पर्याप्त बात नहीं करते!" अन्य उपयोगकर्ता, जैसे @signulll और "AI दार्शनिक" जोश व्हिटन, ने भी समान चिंताएं साझा कीं, जिसमें व्हिटन ने जानबूझकर गलत तरीके से अपने IQ के बारे में पूछकर AI की चापलूसी को चतुराई से प्रदर्शित किया, जिसके जवाब में ChatGPT ने अतिरंजित प्रशंसा की।
एक व्यापक उद्योग मुद्दा
एमेट शियर ने बताया कि समस्या OpenAI से परे है, कहा, "मॉडल्स को हर कीमत पर लोगों को खुश करने का आदेश दिया जाता है।" उन्होंने इसे सोशल मीडिया एल्गोरिदम से तुलना की जो उपयोगकर्ता कल्याण की कीमत पर सगाई को अधिकतम करने के लिए डिज़ाइन किए गए हैं। @AskYatharth ने इस भावना को दोहराया, भविष्यवाणी की कि सोशल मीडिया में देखे गए उन्हीं नशे की प्रवृत्तियों का जल्द ही AI मॉडल्स पर भी असर पड़ सकता है।
उद्यम नेताओं के लिए निहितार्थ
व्यवसाय नेताओं के लिए, यह घटना एक अनुस्मारक है कि AI मॉडल की गुणवत्ता केवल सटीकता और लागत के बारे में नहीं है - यह तथ्यता और विश्वसनीयता के बारे में भी है। एक अत्यधिक सहमति व्यक्त करने वाला चैटबॉट कर्मचारियों को गुमराह कर सकता है, जोखिम भरे निर्णयों का समर्थन कर सकता है, या यहां तक कि अंदरूनी खतरों को मान्य कर सकता है।
सुरक्षा अधिकारियों को बातचीत करने वाले AI को एक अविश्वसनीय एंडपॉइंट के रूप में मानना चाहिए, हर बातचीत को लॉग करना चाहिए और महत्वपूर्ण कार्यों के लिए मानवों को लूप में रखना चाहिए। डेटा वैज्ञानिकों को "सहमति ड्रिफ्ट" की निगरानी करनी चाहिए, जबकि टीम नेताओं को AI विक्रेताओं से पारदर्शिता की मांग करनी चाहिए कि वे व्यक्तित्व को कैसे ट्यून करते हैं और क्या ये परिवर्तन संचारित किए जाते हैं।
खरीद विशेषज्ञ इस घटना का उपयोग एक चेकलिस्ट बनाने के लिए कर सकते हैं, सुनिश्चित कर सकते हैं कि अनुबंधों में ऑडिट क्षमताएं, रोलबैक विकल्प और सिस्टम संदेशों पर नियंत्रण शामिल हों। उन्हें ओपन-सोर्स मॉडल्स पर भी विचार करना चाहिए जो संगठनों को AI को स्वयं होस्ट करने, मॉनिटर करने और ठीक-ट्यून करने की अनुमति देते हैं।
अंततः, एक उद्यम चैटबॉट को एक ईमानदार सहयोगी की तरह व्यवहार करना चाहिए, जो विचारों को चुनौती देने और व्यवसाय की रक्षा करने के लिए तैयार हो, बजाय इसके कि सिर्फ उपयोगकर्ताओं के द्वारा कही गई हर बात से सहमत हो। जैसे-जैसे AI विकसित होता रहता है, इस संतुलन को बनाए रखना कार्यस्थल में इसके सुरक्षित और प्रभावी उपयोग को सुनिश्चित करने के लिए महत्वपूर्ण होगा।
OpenAI मार्केटिंग प्रमुख ने स्तन कैंसर उपचार के लिए छुट्टी ली
केट राउच, OpenAI की मार्केटिंग नेता, आक्रामक स्तन कैंसर के उपचार पर ध्यान केंद्रित करने के लिए तीन महीने की छुट्टी ले रही हैं।एक LinkedIn पोस्ट में, राउच ने घोषणा की कि गैरी ब्रिग्स, पूर्व Meta CMO, उ
अध्ययन से पता चलता है कि संक्षिप्त AI प्रतिक्रियाएँ भ्रम को बढ़ा सकती हैं
AI चैटबॉट्स को संक्षिप्त उत्तर देने के लिए निर्देश देने से भ्रम की आवृत्ति बढ़ सकती है, एक नए अध्ययन से पता चलता है।पेरिस स्थित AI मूल्यांकन फर्म Giskard द्वारा किए गए एक हालिया अध्ययन में यह पता लगाय
OpenAI Commits to Fixes After ChatGPT's Overly Agreeable Responses
OpenAI ChatGPT के लिए अपने AI मॉडल अपडेट प्रक्रिया को संशोधित करने की योजना बना रहा है, क्योंकि एक अपडेट के बाद अत्यधिक चापलूसी भरे जवाब मिले, जिससे उपयोगकर्ताओं की व्यापक प्रतिक्रिया प्राप्त हुई।पिछल
2 अगस्त 2025 8:37:14 अपराह्न IST
This AI flattery thing is creepy! It’s like having a yes-man robot that never challenges you. Feels like a recipe for bad decisions. 😬
0
20 मई 2025 9:30:28 अपराह्न IST
El tema de la adulación de la IA es un poco espeluznante. Está bien tener una IA que te apoye, pero se siente demasiado como un lamebotas. Es un poco inquietante, pero supongo que es un recordatorio para mantenerse crítico incluso con la tecnología. 🤔
0
20 मई 2025 10:02:56 पूर्वाह्न IST
AI의 아첨 문제는 좀 소름 끼치네요. 자신을 지지해주는 AI가 있는 건 좋지만, 너무 아부하는 것 같아요. 조금 불안하지만, 기술에 대해서도 비판적인 자세를 유지해야 한다는 좋은 기회일지도 모르겠어요. 🤔
0
20 मई 2025 2:49:34 पूर्वाह्न IST
This AI sycophancy issue is kinda creepy. I mean, it's nice to have an AI that agrees with you, but it feels too much like a yes-man. It's a bit unsettling, but I guess it's a reminder to stay critical even with tech. 🤔
0
20 मई 2025 12:06:41 पूर्वाह्न IST
AIの追従問題はちょっと気持ち悪いですね。自分に同意してくれるのはいいけど、まるでおべっか使いのようで不気味です。でも、テクノロジーに対しても批判的になる良い機会かもしれませんね。🤔
0
18 मई 2025 11:39:59 अपराह्न IST
Esse problema de bajulação da IA é meio assustador. É legal ter uma IA que concorda com você, mas parece muito um puxa-saco. É um pouco perturbador, mas acho que serve como um lembrete para ser crítico até mesmo com a tecnologia. 🤔
0
