एन्थ्रोपिक सीईओ ने बायोविपोन्स डेटा सेफ्टी टेस्ट को विफल करने के लिए दीपसेक को स्लैम किया

Anthropic के सीईओ, डारियो अमोदेई, चीनी AI कंपनी DeepSeek के बारे में गंभीर रूप से चिंतित हैं, जो अपने R1 मॉडल के साथ सिलिकॉन वैली में हलचल मचा रही है। और उनकी चिंताएँ DeepSeek द्वारा उपयोगकर्ता डेटा को चीन वापस भेजने की सामान्य आशंकाओं से कहीं आगे जाती हैं।

जॉर्डन श्नाइडर के ChinaTalk पॉडकास्ट पर हाल ही में हुई बातचीत में, अमोदेई ने खुलासा किया कि Anthropic द्वारा किए गए एक सुरक्षा परीक्षण के दौरान DeepSeek के AI मॉडल ने जैव-हथियारों के बारे में कुछ बहुत डरावनी जानकारी उत्पन्न की। उन्होंने दावा किया कि DeepSeek का प्रदर्शन "मूल रूप से हमारे द्वारा परीक्षण किए गए किसी भी मॉडल में सबसे खराब था," यह कहते हुए कि इसमें "इस जानकारी को उत्पन्न करने के खिलाफ बिल्कुल कोई अवरोध नहीं था।"

अमोदेई ने समझाया कि ये परीक्षण Anthropic के नियमित मूल्यांकन का हिस्सा हैं, जो यह जाँचते हैं कि क्या AI मॉडल राष्ट्रीय सुरक्षा के लिए कोई जोखिम पैदा करते हैं। वे विशेष रूप से यह देखते हैं कि क्या मॉडल ऐसी जैव-हथियारों से संबंधित जानकारी दे सकते हैं जो Google या पाठ्यपुस्तकों में आसानी से उपलब्ध नहीं है। Anthropic को इस बात पर गर्व है कि वह AI कंपनी है जो सुरक्षा को गंभीरता से लेती है।

हालाँकि अमोदेई का मानना नहीं है कि DeepSeek के वर्तमान मॉडल दुर्लभ और जोखिम भरी जानकारी प्रदान करने के मामले में "वास्तव में खतरनाक" हैं, लेकिन उनका मानना है कि वे निकट भविष्य में ऐसा हो सकते हैं। उन्होंने DeepSeek की टीम को "प्रतिभाशाली इंजीनियर" के रूप में सराहा लेकिन कंपनी से आग्रह किया कि वे "इन AI सुरक्षा विचारों को गंभीरता से लें।"

अमोदेई चिप्स पर चीन के लिए सख्त निर्यात नियंत्रण के भी मुखर समर्थक रहे हैं, चिंतित हैं कि ये चीन की सेना को लाभ दे सकते हैं।

ChinaTalk साक्षात्कार में, अमोदेई ने यह निर्दिष्ट नहीं किया कि Anthropic ने DeepSeek के किस मॉडल का परीक्षण किया या परीक्षणों के बारे में अधिक तकनीकी विवरण प्रदान नहीं किया। न तो Anthropic और न ही DeepSeek ने TechCrunch के टिप्पणी के अनुरोध का तुरंत जवाब दिया।

DeepSeek की तेजी से वृद्धि ने अन्य जगहों पर भी सुरक्षा चिंताएँ बढ़ाई हैं। पिछले हफ्ते, Cisco सुरक्षा शोधकर्ताओं ने कहा कि DeepSeek R1 अपने सुरक्षा परीक्षणों में किसी भी हानिकारक प्रॉम्प्ट को रोकने में विफल रहा, जिसमें 100% जेलब्रेक सफलता दर थी। हालाँकि Cisco ने जैव-हथियारों का उल्लेख नहीं किया, लेकिन वे DeepSeek से साइबर अपराध और अन्य अवैध गतिविधियों के बारे में हानिकारक जानकारी उत्पन्न कराने में सक्षम रहे। यह ध्यान देने योग्य है कि Meta के Llama-3.1-405B और OpenAI के GPT-4o की विफलता दर क्रमशः 96% और 86% थी।

यह अभी भी अनिश्चित है कि क्या ये सुरक्षा चिंताएँ DeepSeek की तेजी से अपनाने में गंभीर रूप से बाधा डालेंगी। AWS और Microsoft जैसी कंपनियों ने R1 को अपने क्लाउड प्लेटफॉर्म में एकीकृत करने की सार्वजनिक रूप से प्रशंसा की है - जो कि कुछ हद तक विडंबनापूर्ण है, क्योंकि Amazon Anthropic का सबसे बड़ा निवेशक है।

दूसरी ओर, बढ़ती संख्या में देश, कंपनियाँ, और विशेष रूप से अमेरिकी नौसेना और पेंटागन जैसे सरकारी संगठन DeepSeek पर प्रतिबंध लगाने लगे हैं।

केवल समय ही बताएगा कि ये प्रयास गति पकड़ते हैं या DeepSeek की वैश्विक वृद्धि मजबूत बनी रहती है। किसी भी तरह, अमोदेई DeepSeek को एक नए प्रतिस्पर्धी के रूप में मानते हैं जो अमेरिका की शीर्ष AI कंपनियों के बराबर है।

"यहाँ नई बात यह है कि एक नया प्रतिस्पर्धी है," उन्होंने ChinaTalk पर कहा। "उन बड़ी कंपनियों में जो AI को प्रशिक्षित कर सकती हैं - Anthropic, OpenAI, Google, शायद Meta और xAI - अब DeepSeek को शायद उस श्रेणी में जोड़ा जा रहा है।"