घर

समाचार

एन्थ्रोपिक सीईओ ने बायोविपोन्स डेटा सेफ्टी टेस्ट को विफल करने के लिए दीपसेक को स्लैम किया

एन्थ्रोपिक सीईओ ने बायोविपोन्स डेटा सेफ्टी टेस्ट को विफल करने के लिए दीपसेक को स्लैम किया

10 अप्रैल 2025

RalphWalker

# DeepSeek

एंथ्रोपिक के सीईओ, डारियो अमोडी, डीपसेक के बारे में गंभीरता से चिंतित हैं, चीनी एआई कंपनी जो अपने आर 1 मॉडल के साथ सिलिकॉन वैली में लहरें बना रही है। और उनकी चिंताएं सामान्य आशंकाओं से परे हैं कि डीपसेक उपयोगकर्ता डेटा वापस चीन भेजने के बारे में है। जॉर्डन श्नाइडर के चिनटॉक पॉडकास्ट पर हाल ही में एक चैट में, अमोडी ने खुलासा किया कि डीपसेक के एआई मॉडल ने एन्थ्रोपिक द्वारा चलाए जा रहे एक सुरक्षा परीक्षण के दौरान बायोविपोन के बारे में कुछ बहुत डरावनी जानकारी उत्पन्न की। उन्होंने दावा किया कि दीपसेक का प्रदर्शन "मूल रूप से किसी भी मॉडल का सबसे बुरा था जिसे हमने कभी भी परीक्षण किया था," यह कहते हुए कि "इस जानकारी को उत्पन्न करने के खिलाफ बिल्कुल भी ब्लॉक नहीं था।" Amodei ने समझाया कि ये परीक्षण एंथ्रोपिक के नियमित मूल्यांकन का हिस्सा हैं, यह जांचने के लिए कि क्या AI मॉडल किसी भी राष्ट्रीय सुरक्षा जोखिम को कम करते हैं। वे विशेष रूप से देखते हैं कि क्या मॉडल Bioweapons- संबंधित जानकारी को थूक सकते हैं जो आप आसानी से Google पर या पाठ्यपुस्तकों में नहीं पा सकते हैं। एंथ्रोपिक एआई कंपनी होने पर गर्व करता है जो सुरक्षा को गंभीरता से लेता है। जबकि अमोडी को नहीं लगता कि दीपसेक के वर्तमान मॉडल "शाब्दिक रूप से खतरनाक" हैं जब यह दुर्लभ और जोखिम भरी जानकारी प्रदान करने की बात आती है, तो उनका मानना है कि वे निकट भविष्य में हो सकते हैं। उन्होंने दीपसेक की टीम को "प्रतिभाशाली इंजीनियरों" के रूप में प्रशंसा की, लेकिन कंपनी से "इन एआई सुरक्षा विचारों को गंभीरता से लेने" का आग्रह किया। Amodei भी चीन के लिए चिप्स पर मजबूत निर्यात नियंत्रण के एक मुखर समर्थक रहे हैं, चिंतित हैं कि वे चीन की सेना को लाभ दे सकते हैं। चाइनाटॉक साक्षात्कार में, अमोडी ने निर्दिष्ट नहीं किया कि किस डीपसेक मॉडल एंथ्रोपिक ने परीक्षण किया या परीक्षणों के बारे में अधिक तकनीकी विवरण प्रदान किया। न तो एन्थ्रोपिक और न ही डीपसेक ने TechCrunch के टिप्पणी के अनुरोध का तुरंत जवाब दिया। दीपसेक की तेजी से वृद्धि ने अन्य स्थानों पर भी सुरक्षा चिंताओं को बढ़ाया है। पिछले हफ्ते, सिस्को के सुरक्षा शोधकर्ताओं ने कहा कि डीपसेक आर 1 अपने सुरक्षा परीक्षणों में किसी भी हानिकारक संकेतों को अवरुद्ध करने में विफल रहा, जिसमें 100% जेलब्रेक सफलता दर थी। जबकि सिस्को ने बायोविपन्स का उल्लेख नहीं किया था, वे साइबर अपराध और अन्य अवैध गतिविधियों के बारे में हानिकारक जानकारी उत्पन्न करने के लिए दीपसेक प्राप्त करने में सक्षम थे। हालांकि, यह ध्यान देने योग्य है कि मेटा के लामा -3.1-405B और Openai के GPT-4O में भी क्रमशः 96% और 86% की उच्च विफलता दर थी। यह अभी भी हवा में है कि क्या इन सुरक्षा चिंताओं ने दीपसेक के तेजी से गोद लेने में एक गंभीर सेंध लगाएगी। AWS और Microsoft जैसी कंपनियां अपने क्लाउड प्लेटफॉर्म में R1 के एकीकरण की सार्वजनिक रूप से प्रशंसा कर रही हैं - जो कि विडंबना की तरह है, अमेज़ॅन एंथ्रोपिक का सबसे बड़ा निवेशक है। दूसरी तरफ, अमेरिकी नौसेना और पेंटागन जैसे देशों, कंपनियों और विशेष रूप से सरकारी संगठनों की बढ़ती संख्या ने डीपसेक पर प्रतिबंध लगाना शुरू कर दिया है। केवल समय ही बताएगा कि क्या ये प्रयास कर्षण प्राप्त करते हैं या यदि दीपसेक का वैश्विक उदय मजबूत रहेगा। किसी भी तरह से, Amodei DeepSeek को एक नया प्रतियोगी मानता है जो अमेरिका की शीर्ष AI कंपनियों के साथ सममूल्य पर है। "यहाँ नया तथ्य यह है कि एक नया प्रतियोगी है," उन्होंने चिनटॉक पर कहा। "बड़ी कंपनियों में जो एआई - एन्थ्रोपिक, ओपनई, गूगल, शायद मेटा और एक्सई को प्रशिक्षित कर सकते हैं - अब डीपसेक को शायद उस श्रेणी में जोड़ा जा रहा है।"

संबंधित लेख

元DeepseekerとCollaboratorsは、信頼できるAIエージェントをトレーニングするための新しい方法をリリースします：Ragen AIエージェントの年：2025の期待とリアリティを詳しく見る2025は、AIエージェント（Openai、Anthropic、Google、Deepseekなどの企業の高度な大規模な言語とマルチモーダルモデルを搭載した特別なAIシステム）として、多くの専門家によって告げられました。

DeepseekのAIは、真の人間の欲求を明らかにします AI報酬モデルでのDeepseekのブレークスルー：AIの推論と対応の強化中国のAIスタートアップDeepseekは、Tsinghua大学と協力して、AIの研究で重要なマイルストーンを達成しました。 AI報酬モデルに対する彼らの革新的なアプローチは、AIシステムの学習方法に革命をもたらすことを約束します

研究者は、50ドル未満のOpenaiの50ドルの「推論」モデルのオープンソースのライバルを開発します先週の金曜日、スタンフォード大学とワシントン大学のAI専門家の画期的な研究論文が現場に登場し、Cloud Compute Creditsで50ドル未満のAI「推論」モデルを開発できたことが明らかになりました。この啓示は、S1が独自のものを保持しているため、AIの世界を揺さぶっています

सूचना (45)

0/200

जमा करना

RichardThomas