एआई पावर सर्ज: एन्थ्रोपिक सीईओ ने समझने के लिए दौड़ की चेतावनी दी

पेरिस में एआई एक्शन शिखर सम्मेलन के ठीक बाद, एंथ्रोपिक के सह-संस्थापक और सीईओ, डारियो अमोडी ने वापस नहीं किया। उन्होंने इस घटना को "मिस्ड अवसर" कहा और जोर देकर कहा कि हमें कई प्रमुख मुद्दों पर ध्यान और तात्कालिकता को बढ़ाने की आवश्यकता है, यह देखते हुए कि एआई टेक कितनी तेजी से आगे बढ़ रहा है। उन्होंने मंगलवार को जारी एक बयान में इन विचारों को साझा किया।

पेरिस में एक डेवलपर-केंद्रित इवेंट के लिए फ्रेंच स्टार्टअप डस्ट के साथ एंथ्रोपिक ने टीम बनाई, जहां टेकक्रंच को मंच पर अमोडी के साथ चैट करने के लिए मिला। उन्होंने अपने दृष्टिकोण को साझा किया और एआई नवाचार और शासन के लिए एक संतुलित दृष्टिकोण के लिए धक्का दिया, अत्यधिक आशावाद और कठोर आलोचना दोनों को स्पष्ट किया।

अमोडी, जो एक न्यूरोसाइंटिस्ट हुआ करते थे, ने कहा, "मैं मूल रूप से एक जीवित के लिए वास्तविक दिमाग के अंदर देखा था। और अब हम एक जीवित के लिए कृत्रिम दिमाग के अंदर देख रहे हैं। इसलिए हम अगले कुछ महीनों में, व्याख्या के क्षेत्र में कुछ रोमांचक प्रगति करेंगे - जहां हम वास्तव में यह समझने लगे हैं कि मॉडल कैसे संचालित होते हैं।" लेकिन उन्होंने यह भी बताया कि यह एक दौड़ है। उन्होंने कहा, "यह मॉडल को अधिक शक्तिशाली बनाने के बीच एक दौड़ है, जो हमारे लिए अविश्वसनीय रूप से तेज है और दूसरों के लिए अविश्वसनीय रूप से तेजी से है - आप वास्तव में धीमा नहीं कर सकते हैं, ठीक है? ... हमारी समझ को चीजों को बनाने की हमारी क्षमता के साथ रखना होगा। मुझे लगता है कि यह एकमात्र तरीका है," उन्होंने कहा।

यूके के ब्लेचले में पहले एआई शिखर सम्मेलन के बाद से, एआई शासन के आसपास की बातचीत बहुत कुछ स्थानांतरित कर दी है, जो वर्तमान भू -राजनीतिक जलवायु से प्रभावित है। एआई एक्शन समिट में बोलते हुए अमेरिकी उपाध्यक्ष जेडी वेंस ने कहा, "मैं आज सुबह एआई सुरक्षा के बारे में बात करने के लिए यहां नहीं हूं, जो कुछ साल पहले सम्मेलन का शीर्षक था। मैं यहां एआई अवसर के बारे में बात करने के लिए हूं।"

हालांकि, अमोडी सुरक्षा और अवसर के बीच की खाई को पाटने की कोशिश कर रहा है। उनका मानना ​​है कि सुरक्षा पर अधिक ध्यान केंद्रित करना वास्तव में एक अवसर हो सकता है। उन्होंने कहा, "मूल शिखर सम्मेलन में, यूके ब्लेचले शिखर सम्मेलन में, विभिन्न जोखिमों के लिए परीक्षण और माप पर बहुत सारी चर्चाएँ थीं। और मुझे नहीं लगता कि इन चीजों ने प्रौद्योगिकी को बहुत धीमा कर दिया," उन्होंने एन्थ्रोपिक इवेंट में कहा। "अगर कुछ भी हो, तो इस तरह के माप को करने से हमें अपने मॉडल को बेहतर ढंग से समझने में मदद मिली है, जो अंत में, हमें बेहतर मॉडल बनाने में मदद करता है।"

यहां तक ​​कि जब सुरक्षा पर जोर दिया जाता है, तो अमोडी ने यह स्पष्ट कर दिया कि एंथ्रोपिक अभी भी फ्रंटियर एआई मॉडल के निर्माण पर है। उन्होंने कहा, "मैं वादे को कम करने के लिए कुछ भी नहीं करना चाहता। हम हर दिन ऐसे मॉडल प्रदान कर रहे हैं, जिन पर लोग निर्माण कर सकते हैं और इसका उपयोग अद्भुत काम करने के लिए किया जाता है। और हमें निश्चित रूप से ऐसा करना बंद नहीं करना चाहिए," उन्होंने कहा। बाद में, उन्होंने कहा, "जब लोग जोखिमों के बारे में बहुत सारी बातें कर रहे हैं, तो मैं एक तरह से नाराज हो जाता हूं, और मैं कहता हूं: 'ओह, यार, किसी ने वास्तव में एक अच्छा काम नहीं किया है जो वास्तव में यह है कि यह तकनीक कितनी महान हो सकती है।"

जब विषय चीनी एलएलएम-मेकर डीपसेक के हालिया मॉडलों में बदल गया, तो अमोडी ने सार्वजनिक प्रतिक्रिया को "अकार्बनिक" कहा, अमोडी ने अपनी उपलब्धियों को कम कर दिया। उन्होंने कहा, "ईमानदारी से, मेरी प्रतिक्रिया बहुत कम थी। हमने वी 3 को देखा था, जो कि दिसंबर में डीपसेक आर 1 के लिए बेस मॉडल है। और यह एक प्रभावशाली मॉडल था। दिसंबर में जारी किया गया मॉडल इस तरह की सामान्य लागत में कमी वक्र पर था जिसे हमने अपने मॉडल और अन्य मॉडलों में देखा है।" उसका ध्यान आकर्षित किया गया था कि यह मॉडल यूएस में सामान्य "तीन या चार फ्रंटियर लैब्स" से नहीं आ रहा था, जैसे कि Google, Openai और एन्थ्रोपिक। उन्होंने प्रौद्योगिकी पर हावी होने वाली सत्तावादी सरकारों के बारे में चिंता व्यक्त की। दीपसेक के दावा किए गए प्रशिक्षण लागतों के लिए, उन्होंने उन्हें "सिर्फ सटीक नहीं और तथ्यों पर आधारित नहीं" के रूप में खारिज कर दिया।

जबकि Amodei ने इस घटना में किसी भी नए मॉडल की घोषणा नहीं की, उन्होंने आगामी रिलीज़ में वृद्धि की क्षमताओं के साथ संकेत दिया। "हम आम तौर पर अपने स्वयं के तर्क मॉडल पर अपना प्रयास करने की कोशिश कर रहे हैं जो बेहतर रूप से विभेदित हैं। हम यह सुनिश्चित करने के बारे में चिंता करते हैं कि हमारे पास पर्याप्त क्षमता है, कि मॉडल होशियार हो जाते हैं, और हम सुरक्षा चीजों के बारे में चिंता करते हैं," उन्होंने कहा।

एन्थ्रोपिक भी मॉडल चयन चुनौती से निपट रहा है। यदि आप एक CHATGPT प्लस उपयोगकर्ता हैं, उदाहरण के लिए, तो यह तय करना कठिन हो सकता है कि आपके अगले संदेश के लिए किस मॉडल का उपयोग करना है।

Amodei ने सामान्य और तर्क मॉडल के बीच अंतर पर सवाल उठाया। "हम इस विचार से थोड़ा हैरान हैं कि सामान्य मॉडल हैं और तर्क मॉडल हैं और वे एक दूसरे से अलग हैं," उन्होंने कहा। "अगर मैं आपसे बात कर रहा हूं, तो आपके पास दो दिमाग नहीं हैं और उनमें से एक तुरंत जवाब देता है और जैसे, दूसरा लंबे समय तक इंतजार करता है।"

उनका मानना ​​है कि क्लाउड 3.5 Sonnet या GPT-4O जैसे पूर्व-प्रशिक्षित मॉडल और सुदृढीकरण सीखने के साथ प्रशिक्षित मॉडल जैसे पूर्व-प्रशिक्षित मॉडल के बीच एक चिकनी संक्रमण होना चाहिए, जो कि Openai के O1 या डीपसेक के R1 की तरह चेन-ऑफ-थॉट्स (COT) का उत्पादन कर सकता है। "हमें लगता है कि ये एक एकल निरंतर इकाई के हिस्से के रूप में मौजूद होना चाहिए। और हम अभी तक वहां नहीं हो सकते हैं, लेकिन एंथ्रोपिक वास्तव में उस दिशा में चीजों को स्थानांतरित करना चाहता है," अमोडी ने कहा। "हमें उस से पूर्व-प्रशिक्षित मॉडल के लिए एक चिकनी संक्रमण होना चाहिए-इसके अलावा 'यहां की बात है और यहां की बात बी।" "

जैसा कि एथ्रोपिक जैसी एआई कंपनियां बेहतर मॉडलों को आगे बढ़ाती रहती हैं, अमोडी उद्योगों में व्यवधान के लिए बहुत अधिक संभावनाएं देखते हैं। उन्होंने कहा, "हम कुछ फार्मा कंपनियों के साथ काम कर रहे हैं ताकि क्लोड का उपयोग नैदानिक ​​अध्ययन के लिए किया जा सके, और वे नैदानिक ​​अध्ययन रिपोर्ट को 12 सप्ताह से तीन दिनों तक लिखने में लगने वाले समय को कम करने में सक्षम हैं।"

वह कानूनी, वित्तीय, बीमा, उत्पादकता, सॉफ्टवेयर और ऊर्जा जैसे क्षेत्रों में एआई अनुप्रयोगों में "विघटनकारी नवाचार के पुनर्जागरण" को लागू करता है। "मुझे लगता है कि एआई एप्लिकेशन स्पेस में विघटनकारी नवाचार का पुनर्जागरण होने जा रहा है। और हम इसकी मदद करना चाहते हैं, हम यह सब समर्थन करना चाहते हैं," उन्होंने निष्कर्ष निकाला।

पेरिस में आर्टिफिशियल इंटेलिजेंस एक्शन शिखर सम्मेलन के हमारे पूर्ण कवरेज को पढ़ें।

TechCrunch के पास AI- केंद्रित समाचार पत्र है! हर बुधवार को अपने इनबॉक्स में इसे प्राप्त करने के लिए यहां साइन अप करें।