人類首席執行官猛烈抨擊生物武器數據安全測試的DeepSeek
2025年04月10日
RalphWalker
56
Anthropic的首席執行官Dario Amodei對DeepSeek非常擔心，DeepSeek是一家以R1模型在矽谷大放異彩的中國人工智能公司。而且他的擔憂超越了對DeepSeek將用戶數據發送回中國的通常擔心。在最近關於喬丹·施耐德（Jordan Schneider）的唐納克播客的聊天中，Amodei透露，DeepSeek的AI模型在Anthropic運行的安全測試中產生了一些有關生物武器的可怕信息。他聲稱，DeepSeek的性能是“我們已經測試過的任何模型的最糟糕的表現”，他說“絕對沒有任何障礙，可以反對生成此信息”。 Amodei解釋說，這些測試是Anthropic定期評估的一部分，以檢查AI模型是否構成任何國家安全風險。他們特別研究了模型是否可以吐出與您在Google或教科書中無法輕易找到的與生物武器相關的信息。擬人化以認真對待安全的AI公司而自豪。儘管Amodei在提供稀有且風險的信息方面並不認為DeepSeek當前的模型“字面上是危險的”，但他認為它們可能會在不久的將來。他稱讚DeepSeek的團隊為“才華橫溢的工程師”，但敦促該公司“認真對待這些AI安全考慮”。 Amodei還一直是對中國籌碼的強大出口控制權的聲音支持者，擔心他們會給中國的軍事優勢帶來優勢。在Chinatalk訪談中，Amodei沒有指定對哪種DeepSeek模型進行了測試或提供有關測試的更多技術細節。人類和DeepSeek都沒有立即回應TechCrunch的置評請求。 DeepSeek的迅速上升也引起了其他地方的安全問題。上週，思科安全研究人員說，DeepSeek R1沒有阻止其安全測試中的任何有害提示，並以100％的越獄成功率阻止了任何有害的提示。儘管思科沒有提及生物武器，但他們能夠獲得有關網絡犯罪和其他非法活動的有害信息。不過，值得注意的是，Meta的Llama-3.1-405B和OpenAI的GPT-4O的失敗率分別為96％和86％。這些安全問題是否會嚴重削弱DeepSeek的迅速採用。像AWS和Microsoft這樣的公司一直在公開稱讚R1在其云平台中的整合 - 考慮到亞馬遜是擬人化的最大投資者，這具有諷刺意味。另一方面，越來越多的國家，公司，尤其是美國海軍和五角大樓等政府組織開始禁止DeepSeek。只有時間才能證明這些努力是否受到關注，或者DeepSeek的全球崛起是否會保持強勁。無論哪種方式，Amodei都認為DeepSeek是與美國頂級AI公司相提並論的新競爭對手。他在Chinatalk上說：“這裡的新事實是有一個新的競爭對手。” “在大型公司中，可以培訓AI（人為，Openai，Google，也許是Meta和Xai）的大公司，現在可能正在將DeepSeek添加到該類別中。”
相關文章
Ex -Deepseeker e Collaborators lançam um novo método para treinar agentes de IA confiáveis: Ragen
O ano dos agentes da IA: uma olhada mais de perto nas expectativas e realidades de 2025, foi anunciada por muitos especialistas como o ano em que os agentes da IA - especializados sistemas de IA alimentados por idiomas grandes e multimodais avançados de empresas como OpenAi, Antrópico, Google e Deepseek - finalmente levaria o centro
O AIS de Deepseek descobre desejos humanos verdadeiros
O avanço de Deepseek nos modelos de recompensa da IA: melhorar o raciocínio e a resposta da IA Startup Chinês Deepseek, em colaboração com a Universidade de Tsinghua, alcançou um marco significativo na pesquisa de IA. Sua abordagem inovadora para os modelos de recompensa da IA promete revolucionar como os sistemas de IA aprendem
Os pesquisadores desenvolvem rival de código aberto ao modelo de 'raciocínio' de US $ 50 do OpenAI por menos de US $ 50
Na sexta -feira passada, um artigo de pesquisa inovador da IA especialistas em Stanford e da Universidade de Washington entrou em cena, revelando que eles conseguiram desenvolver um modelo de "raciocínio" da IA, apelidado de S1, por menos de US $ 50 em créditos de computação em nuvem. Esta revelação está agitando o mundo da IA, pois S1 possui seu próprio
評論 (45)
0/200
![RichardThomas]()
RichardThomas
2025年04月11日 08:18:49
The CEO's concerns about DeepSeek are legit, but it's wild to think they're failing safety tests on bioweapons data. Makes you wonder what else is going on behind the scenes. I'm kinda spooked but also curious to see how this plays out. Stay safe, folks!
0
![WillieRodriguez]()
WillieRodriguez
2025年04月11日 08:18:49
Las preocupaciones del CEO sobre DeepSeek son serias, pero es increíble pensar que están fallando en las pruebas de seguridad de datos de bioweapons. Me da un poco de miedo pero también curiosidad por ver cómo se desarrolla esto. ¡Mantente seguro, gente!
0
![PaulLopez]()
PaulLopez
2025年04月11日 08:18:49
CEOのDeepSeekに対する懸念は本当だが、バイオウェポンのデータの安全性テストに失敗しているなんて信じられない。裏で何が起きているのか気になる。怖いけど、この先どうなるかも興味がある。みんながんばれ！
0
![JustinWilliams]()
JustinWilliams
2025年04月11日 08:18:49
As preocupações do CEO sobre o DeepSeek são legítimas, mas é louco pensar que eles estão falhando nos testes de segurança de dados de bioweapons. Fica a dúvida sobre o que mais está acontecendo por trás das cenas. Estou um pouco assustado, mas também curioso para ver como isso vai se desenrolar. Fiquem seguros, pessoal!
0
![WalterWhite]()
WalterWhite
2025年04月11日 08:18:49
Die Bedenken des CEOs über DeepSeek sind berechtigt, aber es ist verrückt zu denken, dass sie bei Sicherheitstests für Biowaffendaten durchfallen. Man fragt sich, was sonst noch hinter den Kulissen passiert. Ich bin ein bisschen erschrocken, aber auch neugierig, wie sich das entwickelt. Bleibt sicher, Leute!
0
![WalterBaker]()
WalterBaker
2025年04月12日 18:19:53
Anthropic CEO's slam on DeepSeek is pretty intense! It's scary to think about AI being used for bioweapons. I hope they can sort out their data safety issues soon. It's a bit of a wake-up call for the whole industry. Stay safe, folks!
0
2025年04月10日
RalphWalker
56
Ex -Deepseeker e Collaborators lançam um novo método para treinar agentes de IA confiáveis: Ragen
O ano dos agentes da IA: uma olhada mais de perto nas expectativas e realidades de 2025, foi anunciada por muitos especialistas como o ano em que os agentes da IA - especializados sistemas de IA alimentados por idiomas grandes e multimodais avançados de empresas como OpenAi, Antrópico, Google e Deepseek - finalmente levaria o centro
O AIS de Deepseek descobre desejos humanos verdadeiros
O avanço de Deepseek nos modelos de recompensa da IA: melhorar o raciocínio e a resposta da IA Startup Chinês Deepseek, em colaboração com a Universidade de Tsinghua, alcançou um marco significativo na pesquisa de IA. Sua abordagem inovadora para os modelos de recompensa da IA promete revolucionar como os sistemas de IA aprendem
Os pesquisadores desenvolvem rival de código aberto ao modelo de 'raciocínio' de US $ 50 do OpenAI por menos de US $ 50
Na sexta -feira passada, um artigo de pesquisa inovador da IA especialistas em Stanford e da Universidade de Washington entrou em cena, revelando que eles conseguiram desenvolver um modelo de "raciocínio" da IA, apelidado de S1, por menos de US $ 50 em créditos de computação em nuvem. Esta revelação está agitando o mundo da IA, pois S1 possui seu próprio
2025年04月11日 08:18:49
The CEO's concerns about DeepSeek are legit, but it's wild to think they're failing safety tests on bioweapons data. Makes you wonder what else is going on behind the scenes. I'm kinda spooked but also curious to see how this plays out. Stay safe, folks!
0
2025年04月11日 08:18:49
Las preocupaciones del CEO sobre DeepSeek son serias, pero es increíble pensar que están fallando en las pruebas de seguridad de datos de bioweapons. Me da un poco de miedo pero también curiosidad por ver cómo se desarrolla esto. ¡Mantente seguro, gente!
0
2025年04月11日 08:18:49
CEOのDeepSeekに対する懸念は本当だが、バイオウェポンのデータの安全性テストに失敗しているなんて信じられない。裏で何が起きているのか気になる。怖いけど、この先どうなるかも興味がある。みんながんばれ！
0
2025年04月11日 08:18:49
As preocupações do CEO sobre o DeepSeek são legítimas, mas é louco pensar que eles estão falhando nos testes de segurança de dados de bioweapons. Fica a dúvida sobre o que mais está acontecendo por trás das cenas. Estou um pouco assustado, mas também curioso para ver como isso vai se desenrolar. Fiquem seguros, pessoal!
0
2025年04月11日 08:18:49
Die Bedenken des CEOs über DeepSeek sind berechtigt, aber es ist verrückt zu denken, dass sie bei Sicherheitstests für Biowaffendaten durchfallen. Man fragt sich, was sonst noch hinter den Kulissen passiert. Ich bin ein bisschen erschrocken, aber auch neugierig, wie sich das entwickelt. Bleibt sicher, Leute!
0
2025年04月12日 18:19:53
Anthropic CEO's slam on DeepSeek is pretty intense! It's scary to think about AI being used for bioweapons. I hope they can sort out their data safety issues soon. It's a bit of a wake-up call for the whole industry. Stay safe, folks!
0
