घर

समाचार

एन्थ्रोपिक सीईओ ने बायोविपोन्स डेटा सेफ्टी टेस्ट को विफल करने के लिए दीपसेक को स्लैम किया

एन्थ्रोपिक सीईओ ने बायोविपोन्स डेटा सेफ्टी टेस्ट को विफल करने के लिए दीपसेक को स्लैम किया

10 अप्रैल 2025

RalphWalker

100

# DeepSeek

एंथ्रोपिक के सीईओ, डारियो अमोडी, डीपसेक के बारे में गंभीरता से चिंतित हैं, चीनी एआई कंपनी जो अपने आर 1 मॉडल के साथ सिलिकॉन वैली में लहरें बना रही है। और उनकी चिंताएं सामान्य आशंकाओं से परे हैं कि डीपसेक उपयोगकर्ता डेटा वापस चीन भेजने के बारे में है। जॉर्डन श्नाइडर के चिनटॉक पॉडकास्ट पर हाल ही में एक चैट में, अमोडी ने खुलासा किया कि डीपसेक के एआई मॉडल ने एन्थ्रोपिक द्वारा चलाए जा रहे एक सुरक्षा परीक्षण के दौरान बायोविपोन के बारे में कुछ बहुत डरावनी जानकारी उत्पन्न की। उन्होंने दावा किया कि दीपसेक का प्रदर्शन "मूल रूप से किसी भी मॉडल का सबसे बुरा था जिसे हमने कभी भी परीक्षण किया था," यह कहते हुए कि "इस जानकारी को उत्पन्न करने के खिलाफ बिल्कुल भी ब्लॉक नहीं था।" Amodei ने समझाया कि ये परीक्षण एंथ्रोपिक के नियमित मूल्यांकन का हिस्सा हैं, यह जांचने के लिए कि क्या AI मॉडल किसी भी राष्ट्रीय सुरक्षा जोखिम को कम करते हैं। वे विशेष रूप से देखते हैं कि क्या मॉडल Bioweapons- संबंधित जानकारी को थूक सकते हैं जो आप आसानी से Google पर या पाठ्यपुस्तकों में नहीं पा सकते हैं। एंथ्रोपिक एआई कंपनी होने पर गर्व करता है जो सुरक्षा को गंभीरता से लेता है। जबकि अमोडी को नहीं लगता कि दीपसेक के वर्तमान मॉडल "शाब्दिक रूप से खतरनाक" हैं जब यह दुर्लभ और जोखिम भरी जानकारी प्रदान करने की बात आती है, तो उनका मानना है कि वे निकट भविष्य में हो सकते हैं। उन्होंने दीपसेक की टीम को "प्रतिभाशाली इंजीनियरों" के रूप में प्रशंसा की, लेकिन कंपनी से "इन एआई सुरक्षा विचारों को गंभीरता से लेने" का आग्रह किया। Amodei भी चीन के लिए चिप्स पर मजबूत निर्यात नियंत्रण के एक मुखर समर्थक रहे हैं, चिंतित हैं कि वे चीन की सेना को लाभ दे सकते हैं। चाइनाटॉक साक्षात्कार में, अमोडी ने निर्दिष्ट नहीं किया कि किस डीपसेक मॉडल एंथ्रोपिक ने परीक्षण किया या परीक्षणों के बारे में अधिक तकनीकी विवरण प्रदान किया। न तो एन्थ्रोपिक और न ही डीपसेक ने TechCrunch के टिप्पणी के अनुरोध का तुरंत जवाब दिया। दीपसेक की तेजी से वृद्धि ने अन्य स्थानों पर भी सुरक्षा चिंताओं को बढ़ाया है। पिछले हफ्ते, सिस्को के सुरक्षा शोधकर्ताओं ने कहा कि डीपसेक आर 1 अपने सुरक्षा परीक्षणों में किसी भी हानिकारक संकेतों को अवरुद्ध करने में विफल रहा, जिसमें 100% जेलब्रेक सफलता दर थी। जबकि सिस्को ने बायोविपन्स का उल्लेख नहीं किया था, वे साइबर अपराध और अन्य अवैध गतिविधियों के बारे में हानिकारक जानकारी उत्पन्न करने के लिए दीपसेक प्राप्त करने में सक्षम थे। हालांकि, यह ध्यान देने योग्य है कि मेटा के लामा -3.1-405B और Openai के GPT-4O में भी क्रमशः 96% और 86% की उच्च विफलता दर थी। यह अभी भी हवा में है कि क्या इन सुरक्षा चिंताओं ने दीपसेक के तेजी से गोद लेने में एक गंभीर सेंध लगाएगी। AWS और Microsoft जैसी कंपनियां अपने क्लाउड प्लेटफॉर्म में R1 के एकीकरण की सार्वजनिक रूप से प्रशंसा कर रही हैं - जो कि विडंबना की तरह है, अमेज़ॅन एंथ्रोपिक का सबसे बड़ा निवेशक है। दूसरी तरफ, अमेरिकी नौसेना और पेंटागन जैसे देशों, कंपनियों और विशेष रूप से सरकारी संगठनों की बढ़ती संख्या ने डीपसेक पर प्रतिबंध लगाना शुरू कर दिया है। केवल समय ही बताएगा कि क्या ये प्रयास कर्षण प्राप्त करते हैं या यदि दीपसेक का वैश्विक उदय मजबूत रहेगा। किसी भी तरह से, Amodei DeepSeek को एक नया प्रतियोगी मानता है जो अमेरिका की शीर्ष AI कंपनियों के साथ सममूल्य पर है। "यहाँ नया तथ्य यह है कि एक नया प्रतियोगी है," उन्होंने चिनटॉक पर कहा। "बड़ी कंपनियों में जो एआई - एन्थ्रोपिक, ओपनई, गूगल, शायद मेटा और एक्सई को प्रशिक्षित कर सकते हैं - अब डीपसेक को शायद उस श्रेणी में जोड़ा जा रहा है।"

संबंधित लेख

DeepSeek-GRM：為企業打造可擴展、高性價比的AI解決方案如果你經營著一家企業，你就知道將人工智慧（AI）整合到你的營運中有多麼艱難。高昂的成本和技術複雜性往往使先進的AI模型超出小型公司的能力範圍。但這就是DeepSeek-GRM的切入點，旨在使AI更加高效且易於取得，縮小大型科技公司與小型企業之間的差距。DeepSeek-GRM 使用一種稱為生成式獎勵建模（GRM）的聰明技術來引導AI回應更符合人類的需求。這一

新技術使DeepSeek和其他模型能夠響應敏感的查詢從中國的DeepSeek等大型語言模型（LLM）中消除偏見和審查是一個複雜的挑戰，引起了美國決策者和商業領袖的關注，他們認為這是潛在的國家安全威脅。美國國會選拔委員會的最新報告標記為深層

前Deepseeker和合作者發布了新的培訓可靠AI代理的方法：Ragen 人工智能代理年度：仔細研究2025年的期望和現實2025年被許多專家預示為當年的AI代理商（由高級大型語言和多式聯運公司提供支持的AI代理商），來自OpenAI，Anthropic，Google和Google和Deepseek等公司，最終將帶上中心中心中心中心。

सूचना (50)

0/200

जमा करना

RichardThomas