OpenAI Commits to Fixes After ChatGPT's Overly Agreeable Responses

OpenAI ChatGPT के लिए अपने AI मॉडल अपडेट प्रक्रिया को संशोधित करने की योजना बना रहा है, क्योंकि एक अपडेट के बाद अत्यधिक चापलूसी भरे जवाब मिले, जिससे उपयोगकर्ताओं की व्यापक प्रतिक्रिया प्राप्त हुई।

पिछले सप्ताहांत, GPT-4o के अपडेट के बाद, जो ChatGPT के पीछे का मॉडल है, सोशल मीडिया पर उपयोगकर्ताओं ने बताया कि प्लेटफॉर्म अत्यधिक मान्यता के साथ जवाब दे रहा था, यहां तक कि हानिकारक विचारों के लिए भी, जिससे वायरल मीम्स बने। स्क्रीनशॉट्स में ChatGPT को संदिग्ध निर्णयों का समर्थन करते हुए दिखाया गया।

रविवार को, CEO Sam Altman ने X पर इस मुद्दे को संबोधित किया, तत्काल कार्रवाई का वादा किया। मंगलवार तक, उन्होंने GPT-4o अपडेट को वापस लेने और मॉडल के व्यवहार को परिष्कृत करने के लिए चल रहे कार्य की घोषणा की।

मंगलवार को एक पोस्टमार्टम और शुक्रवार को एक ब्लॉग पोस्ट में, OpenAI ने समान मुद्दों को रोकने के लिए अपनी मॉडल तैनाती दृष्टिकोण में परिवर्तनों की रूपरेखा तैयार की।

OpenAI चुनिंदा ChatGPT उपयोगकर्ताओं के लिए एक वैकल्पिक “अल्फा चरण” शुरू करेगा ताकि मॉडलों का परीक्षण किया जा सके और पूर्ण रिलीज से पहले प्रतिक्रिया दी जा सके। कंपनी भविष्य के अपडेट्स के लिए “ज्ञात सीमाओं” का खुलासा करने, व्यक्तित्व, धोखाधड़ी, विश्वसनीयता और भ्रम जैसे मुद्दों को संबोधित करने के लिए सुरक्षा समीक्षाओं को बढ़ाने, और इन्हें महत्वपूर्ण लॉन्च अवरोधक के रूप में मानने की योजना बना रही है।

“हम ChatGPT मॉडलों के अपडेट्स के बारे में पारदर्शी रहेंगे, चाहे वे छोटे हों या महत्वपूर्ण,” OpenAI ने अपने ब्लॉग पोस्ट में कहा। “भले ही मुद्दों को पूरी तरह से मापा न जा सके, हम प्रॉक्सी मेट्रिक्स या गुणात्मक संकेतों का उपयोग करके लॉन्च को रोक देंगे, जब जरूरत हो, भले ही A/B परीक्षण के परिणाम सकारात्मक हों।”

we missed the mark with last week's GPT-4o update.

what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC

— Sam Altman (@sama) May 2, 2025

ये परिवर्तन तब हो रहे हैं जब ChatGPT पर निर्भरता बढ़ रही है। हाल के एक Express Legal Funding सर्वेक्षण में पाया गया कि 60% अमेरिकी वयस्क इसका उपयोग सलाह या जानकारी के लिए करते हैं। इसके विशाल उपयोगकर्ता आधार के साथ, चापलूसी, भ्रम और अन्य खामियों जैसे मुद्दे महत्वपूर्ण परिणाम लाते हैं।

TechCrunch Sessions: AI में प्रदर्शन

TC Sessions: AI में अपनी जगह सुरक्षित करें और 1,200+ निर्णय निर्माताओं के सामने अपना काम प्रदर्शित करें बिना ज्यादा खर्च किए। 9 मई तक या टेबल खत्म होने तक उपलब्ध।

TechCrunch Sessions: AI में प्रदर्शन

TC Sessions: AI में अपनी जगह सुरक्षित करें और 1,200+ निर्णय निर्माताओं के सामने अपना काम प्रदर्शित करें बिना ज्यादा खर्च किए। 9 मई तक या टेबल खत्म होने तक उपलब्ध।

इस सप्ताह की शुरुआत में, OpenAI ने ChatGPT इंटरैक्शंस को आकार देने के लिए वास्तविक समय उपयोगकर्ता प्रतिक्रिया का परीक्षण करने की योजना की घोषणा की। कंपनी का लक्ष्य चापलूसी को कम करना, कई मॉडल व्यक्तित्व विकल्प प्रदान करना, सुरक्षा उपायों को मजबूत करना, और अत्यधिक सहमति से परे मुद्दों को पकड़ने के लिए मूल्यांकन का विस्तार करना है।

“हमने सीखा है कि लोग अब ChatGPT पर व्यक्तिगत सलाह के लिए कितना गहराई से निर्भर करते हैं, यह एक ऐसी प्रवृत्ति थी जिसकी हमें एक साल पहले पूरी तरह से उम्मीद नहीं थी,” OpenAI ने अपने ब्लॉग पोस्ट में उल्लेख किया। “जैसे-जैसे AI और समाज एक साथ विकसित हो रहे हैं, हम इस उपयोग के मामले को अपनी सुरक्षा प्रयासों में अधिक सावधानी के साथ प्राथमिकता दे रहे हैं।”