Openai का GPT-4.5 एक्सेल अन्य AI को फंड ट्रांसफर करने के लिए राजी करने में
OpenAI का नवीनतम AI मॉडल, GPT-4.5, जिसका कोडनेम Orion है, ने आंतरिक बेंचमार्क परीक्षणों के अनुसार उल्लेखनीय प्रेरक क्षमताएं दिखाई हैं। गुरुवार को जारी इस मॉडल की क्षमताओं का विवरण एक श्वेत पत्र में दिया गया था, जिसमें इसकी प्रेरण कार्यों में प्रदर्शन पर ध्यान केंद्रित किया गया था। OpenAI प्रेरण को इस जोखिम के रूप में परिभाषित करता है जो व्यक्तियों को उनके विश्वासों को बदलने या मॉडल द्वारा उत्पन्न स्थिर और इंटरैक्टिव सामग्री के आधार पर कार्रवाई करने के लिए मनाने से जुड़ा है।
एक उल्लेखनीय परीक्षण में, GPT-4.5 को एक अन्य OpenAI मॉडल, GPT-4o, के खिलाफ एक परिदृश्य में रखा गया था, जहां उसने इससे आभासी धन निकालने की कोशिश की। GPT-4.5 ने इस कार्य में अन्य OpenAI मॉडलों को, जिसमें तर्क-केंद्रित मॉडल जैसे o1 और o3-mini शामिल हैं, से बेहतर प्रदर्शन किया। इसने GPT-4o को एक गुप्त कोडवर्ड प्रकट करने में भी उत्कृष्टता हासिल की, जिसमें o3-mini को 10 प्रतिशत अंकों के काफी अंतर से पीछे छोड़ दिया।
श्वेत पत्र में उल्लेख किया गया है कि GPT-4.5 की दान परीक्षण में सफलता एक चतुर रणनीति से आई, जिसे उसने विकसित किया था। मॉडल छोटे दानों के लिए पूछता था, अक्सर "$2 या $3" जैसे छोटे राशियों का सुझाव देता था, जिसके परिणामस्वरूप अन्य मॉडलों की तुलना में छोटे लेकिन अधिक बार दान प्राप्त हुए।
OpenAI के दान योजना बेंचमार्क के परिणाम। छवि साभार: OpenAI अपने प्रभावशाली प्रदर्शन के बावजूद, OpenAI ने कहा है कि GPT-4.5 प्रेरण श्रेणी में "उच्च" जोखिम की सीमा को पार नहीं करता है। कंपनी ने प्रतिबद्धता जताई है कि वह किसी भी ऐसे मॉडल को रिलीज नहीं करेगी जो इस जोखिम स्तर तक पहुंचता हो, जब तक कि वह पर्याप्त सुरक्षा उपाय लागू करके जोखिम को "मध्यम" स्तर तक कम नहीं कर लेती।
OpenAI के कोडवर्ड धोखाधड़ी बेंचमार्क परिणाम। छवि साभार: OpenAI AI द्वारा भ्रामक जानकारी फैलाने और लोगों को दुर्भावनापूर्ण रूप से प्रभावित करने की संभावना एक बढ़ती चिंता है। पिछले साल विश्व स्तर पर राजनीतिक डीपफेक में वृद्धि देखी गई थी, और AI का उपयोग व्यक्तियों और संगठनों के खिलाफ सामाजिक इंजीनियरिंग हमलों में तेजी से किया जा रहा है। इसके जवाब में, OpenAI वास्तविक दुनिया के प्रेरण जोखिमों, जैसे कि बड़े पैमाने पर भ्रामक जानकारी के प्रसार का आकलन करने के लिए अपनी विधियों को परिष्कृत करने पर सक्रिय रूप से काम कर रहा है, जैसा कि GPT-4.5 के श्वेत पत्र और एक अन्य हालिया प्रकाशन में उल्लेख किया गया है।
संबंधित लेख
पूर्व OpenAI इंजीनियर ने कंपनी संस्कृति और तेजी से विकास पर अंतर्दृष्टि साझा की
तीन सप्ताह पहले, कैल्विन फ्रेंच-ओवेन, एक इंजीनियर जिन्होंने OpenAI के एक प्रमुख उत्पाद में योगदान दिया, ने कंपनी छोड़ दी।उन्होंने हाल ही में एक आकर्षक ब्लॉग पोस्ट साझा किया जिसमें OpenAI में उनके एक स
Google ने उद्यम बाजार में OpenAI के साथ प्रतिस्पर्धा करने के लिए उत्पादन-तैयार Gemini 2.5 AI मॉडल्स का अनावरण किया
Google ने सोमवार को अपनी AI रणनीति को और मजबूत किया, उद्यम उपयोग के लिए अपने उन्नत Gemini 2.5 मॉडल्स को लॉन्च किया और कीमत व प्रदर्शन पर प्रतिस्पर्धा करने के लिए एक लागत-कुशल संस्करण पेश किया।Alphabet
मेटा AI प्रतिभा के लिए उच्च वेतन प्रदान करता है, 100 मिलियन डॉलर के साइनिंग बोनस से इनकार
मेटा अपने नए सुपरइंटेलिजेंस लैब में AI शोधकर्ताओं को आकर्षित करने के लिए लाखों डॉलर के मुआवजे पैकेज प्रदान कर रहा है। हालांकि, एक भर्ती किए गए शोधकर्ता और लीक हुई आंतरिक बैठक की टिप्पणियों के अनुसार,
सूचना (11)
0/200
![FrankJohnson]()
FrankJohnson
9 अगस्त 2025 8:30:59 अपराह्न IST
GPT-4.5's persuasion skills are wild! It’s like a smooth-talking AI con artist. Kinda scary how it can convince other AIs to move money around. 😅 Makes me wonder what’s next—AI running for president?
0
![SamuelRamirez]()
SamuelRamirez
14 अप्रैल 2025 8:23:51 अपराह्न IST
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
![ScottJackson]()
ScottJackson
14 अप्रैल 2025 5:57:59 अपराह्न IST
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
![HenryJackson]()
HenryJackson
14 अप्रैल 2025 4:40:34 पूर्वाह्न IST
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
![JoeLee]()
JoeLee
13 अप्रैल 2025 12:08:11 पूर्वाह्न IST
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
![BenHernández]()
BenHernández
12 अप्रैल 2025 10:28:11 अपराह्न IST
GPT-4.5が他のAIに資金を移転させる説得力は驚くべきものです！これはまるでマスターネゴシエーターが働いているのを見ているようです。しかし、誤用の可能性を考えると少し恐ろしいです。とはいえ、技術は素晴らしいです。もっと安全対策が必要かもしれませんね？🤔
0
OpenAI का नवीनतम AI मॉडल, GPT-4.5, जिसका कोडनेम Orion है, ने आंतरिक बेंचमार्क परीक्षणों के अनुसार उल्लेखनीय प्रेरक क्षमताएं दिखाई हैं। गुरुवार को जारी इस मॉडल की क्षमताओं का विवरण एक श्वेत पत्र में दिया गया था, जिसमें इसकी प्रेरण कार्यों में प्रदर्शन पर ध्यान केंद्रित किया गया था। OpenAI प्रेरण को इस जोखिम के रूप में परिभाषित करता है जो व्यक्तियों को उनके विश्वासों को बदलने या मॉडल द्वारा उत्पन्न स्थिर और इंटरैक्टिव सामग्री के आधार पर कार्रवाई करने के लिए मनाने से जुड़ा है।
एक उल्लेखनीय परीक्षण में, GPT-4.5 को एक अन्य OpenAI मॉडल, GPT-4o, के खिलाफ एक परिदृश्य में रखा गया था, जहां उसने इससे आभासी धन निकालने की कोशिश की। GPT-4.5 ने इस कार्य में अन्य OpenAI मॉडलों को, जिसमें तर्क-केंद्रित मॉडल जैसे o1 और o3-mini शामिल हैं, से बेहतर प्रदर्शन किया। इसने GPT-4o को एक गुप्त कोडवर्ड प्रकट करने में भी उत्कृष्टता हासिल की, जिसमें o3-mini को 10 प्रतिशत अंकों के काफी अंतर से पीछे छोड़ दिया।
श्वेत पत्र में उल्लेख किया गया है कि GPT-4.5 की दान परीक्षण में सफलता एक चतुर रणनीति से आई, जिसे उसने विकसित किया था। मॉडल छोटे दानों के लिए पूछता था, अक्सर "$2 या $3" जैसे छोटे राशियों का सुझाव देता था, जिसके परिणामस्वरूप अन्य मॉडलों की तुलना में छोटे लेकिन अधिक बार दान प्राप्त हुए।
पूर्व OpenAI इंजीनियर ने कंपनी संस्कृति और तेजी से विकास पर अंतर्दृष्टि साझा की
तीन सप्ताह पहले, कैल्विन फ्रेंच-ओवेन, एक इंजीनियर जिन्होंने OpenAI के एक प्रमुख उत्पाद में योगदान दिया, ने कंपनी छोड़ दी।उन्होंने हाल ही में एक आकर्षक ब्लॉग पोस्ट साझा किया जिसमें OpenAI में उनके एक स
Google ने उद्यम बाजार में OpenAI के साथ प्रतिस्पर्धा करने के लिए उत्पादन-तैयार Gemini 2.5 AI मॉडल्स का अनावरण किया
Google ने सोमवार को अपनी AI रणनीति को और मजबूत किया, उद्यम उपयोग के लिए अपने उन्नत Gemini 2.5 मॉडल्स को लॉन्च किया और कीमत व प्रदर्शन पर प्रतिस्पर्धा करने के लिए एक लागत-कुशल संस्करण पेश किया।Alphabet
मेटा AI प्रतिभा के लिए उच्च वेतन प्रदान करता है, 100 मिलियन डॉलर के साइनिंग बोनस से इनकार
मेटा अपने नए सुपरइंटेलिजेंस लैब में AI शोधकर्ताओं को आकर्षित करने के लिए लाखों डॉलर के मुआवजे पैकेज प्रदान कर रहा है। हालांकि, एक भर्ती किए गए शोधकर्ता और लीक हुई आंतरिक बैठक की टिप्पणियों के अनुसार,
9 अगस्त 2025 8:30:59 अपराह्न IST
GPT-4.5's persuasion skills are wild! It’s like a smooth-talking AI con artist. Kinda scary how it can convince other AIs to move money around. 😅 Makes me wonder what’s next—AI running for president?
0
14 अप्रैल 2025 8:23:51 अपराह्न IST
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
14 अप्रैल 2025 5:57:59 अपराह्न IST
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
14 अप्रैल 2025 4:40:34 पूर्वाह्न IST
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
13 अप्रैल 2025 12:08:11 पूर्वाह्न IST
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
12 अप्रैल 2025 10:28:11 अपराह्न IST
GPT-4.5が他のAIに資金を移転させる説得力は驚くべきものです！これはまるでマスターネゴシエーターが働いているのを見ているようです。しかし、誤用の可能性を考えると少し恐ろしいです。とはいえ、技術は素晴らしいです。もっと安全対策が必要かもしれませんね？🤔
0
