人类首席执行官猛烈抨击生物武器数据安全测试的DeepSeek
2025年04月10日
RalphWalker
56
Anthropic的首席执行官Dario Amodei对DeepSeek非常担心，DeepSeek是一家以R1模型在硅谷大放异彩的中国人工智能公司。而且他的担忧超越了对DeepSeek将用户数据发送回中国的通常担心。在最近关于乔丹·施耐德（Jordan Schneider）的唐纳克播客的聊天中，Amodei透露，DeepSeek的AI模型在Anthropic运行的安全测试中产生了一些有关生物武器的可怕信息。他声称，DeepSeek的性能是“我们已经测试过的任何模型的最糟糕的表现”，他说“绝对没有任何障碍，可以反对生成此信息”。 Amodei解释说，这些测试是Anthropic定期评估的一部分，以检查AI模型是否构成任何国家安全风险。他们特别研究了模型是否可以吐出与您在Google或教科书中无法轻易找到的与生物武器相关的信息。拟人化以认真对待安全的AI公司而自豪。尽管Amodei在提供稀有且风险的信息方面并不认为DeepSeek当前的模型“字面上是危险的”，但他认为它们可能会在不久的将来。他称赞DeepSeek的团队为“才华横溢的工程师”，但敦促该公司“认真对待这些AI安全考虑”。 Amodei还一直是对中国筹码的强大出口控制权的声音支持者，担心他们会给中国的军事优势带来优势。在Chinatalk访谈中，Amodei没有指定对哪种DeepSeek模型进行了测试或提供有关测试的更多技术细节。人类和DeepSeek都没有立即回应TechCrunch的置评请求。 DeepSeek的迅速上升也引起了其他地方的安全问题。上周，思科安全研究人员说，DeepSeek R1没有阻止其安全测试中的任何有害提示，并以100％的越狱成功率阻止了任何有害的提示。尽管思科没有提及生物武器，但他们能够获得有关网络犯罪和其他非法活动的有害信息。不过，值得注意的是，Meta的Llama-3.1-405B和OpenAI的GPT-4O的失败率分别为96％和86％。这些安全问题是否会严重削弱DeepSeek的迅速采用。像AWS和Microsoft这样的公司一直在公开称赞R1在其云平台中的整合 - 考虑到亚马逊是拟人化的最大投资者，这具有讽刺意味。另一方面，越来越多的国家，公司，尤其是美国海军和五角大楼等政府组织开始禁止DeepSeek。只有时间才能证明这些努力是否受到关注，或者DeepSeek的全球崛起是否会保持强劲。无论哪种方式，Amodei都认为DeepSeek是与美国顶级AI公司相提并论的新竞争对手。他在Chinatalk上说：“这里的新事实是有一个新的竞争对手。” “在大型公司中，可以培训AI（人为，Openai，Google，也许是Meta和Xai）的大公司，现在可能正在将DeepSeek添加到该类别中。”
相关文章
Ex -Deepseeker e Collaborators lançam um novo método para treinar agentes de IA confiáveis: Ragen
O ano dos agentes da IA: uma olhada mais de perto nas expectativas e realidades de 2025, foi anunciada por muitos especialistas como o ano em que os agentes da IA - especializados sistemas de IA alimentados por idiomas grandes e multimodais avançados de empresas como OpenAi, Antrópico, Google e Deepseek - finalmente levaria o centro
O AIS de Deepseek descobre desejos humanos verdadeiros
O avanço de Deepseek nos modelos de recompensa da IA: melhorar o raciocínio e a resposta da IA Startup Chinês Deepseek, em colaboração com a Universidade de Tsinghua, alcançou um marco significativo na pesquisa de IA. Sua abordagem inovadora para os modelos de recompensa da IA promete revolucionar como os sistemas de IA aprendem
Os pesquisadores desenvolvem rival de código aberto ao modelo de 'raciocínio' de US $ 50 do OpenAI por menos de US $ 50
Na sexta -feira passada, um artigo de pesquisa inovador da IA especialistas em Stanford e da Universidade de Washington entrou em cena, revelando que eles conseguiram desenvolver um modelo de "raciocínio" da IA, apelidado de S1, por menos de US $ 50 em créditos de computação em nuvem. Esta revelação está agitando o mundo da IA, pois S1 possui seu próprio
评论 (45)
0/200
![RichardThomas]()
RichardThomas
2025年04月11日 08:18:49
The CEO's concerns about DeepSeek are legit, but it's wild to think they're failing safety tests on bioweapons data. Makes you wonder what else is going on behind the scenes. I'm kinda spooked but also curious to see how this plays out. Stay safe, folks!
0
![WillieRodriguez]()
WillieRodriguez
2025年04月11日 08:18:49
Las preocupaciones del CEO sobre DeepSeek son serias, pero es increíble pensar que están fallando en las pruebas de seguridad de datos de bioweapons. Me da un poco de miedo pero también curiosidad por ver cómo se desarrolla esto. ¡Mantente seguro, gente!
0
![PaulLopez]()
PaulLopez
2025年04月11日 08:18:49
CEOのDeepSeekに対する懸念は本当だが、バイオウェポンのデータの安全性テストに失敗しているなんて信じられない。裏で何が起きているのか気になる。怖いけど、この先どうなるかも興味がある。みんながんばれ！
0
![JustinWilliams]()
JustinWilliams
2025年04月11日 08:18:49
As preocupações do CEO sobre o DeepSeek são legítimas, mas é louco pensar que eles estão falhando nos testes de segurança de dados de bioweapons. Fica a dúvida sobre o que mais está acontecendo por trás das cenas. Estou um pouco assustado, mas também curioso para ver como isso vai se desenrolar. Fiquem seguros, pessoal!
0
![WalterWhite]()
WalterWhite
2025年04月11日 08:18:49
Die Bedenken des CEOs über DeepSeek sind berechtigt, aber es ist verrückt zu denken, dass sie bei Sicherheitstests für Biowaffendaten durchfallen. Man fragt sich, was sonst noch hinter den Kulissen passiert. Ich bin ein bisschen erschrocken, aber auch neugierig, wie sich das entwickelt. Bleibt sicher, Leute!
0
![WalterBaker]()
WalterBaker
2025年04月12日 18:19:53
Anthropic CEO's slam on DeepSeek is pretty intense! It's scary to think about AI being used for bioweapons. I hope they can sort out their data safety issues soon. It's a bit of a wake-up call for the whole industry. Stay safe, folks!
0
2025年04月10日
RalphWalker
56
Ex -Deepseeker e Collaborators lançam um novo método para treinar agentes de IA confiáveis: Ragen
O ano dos agentes da IA: uma olhada mais de perto nas expectativas e realidades de 2025, foi anunciada por muitos especialistas como o ano em que os agentes da IA - especializados sistemas de IA alimentados por idiomas grandes e multimodais avançados de empresas como OpenAi, Antrópico, Google e Deepseek - finalmente levaria o centro
O AIS de Deepseek descobre desejos humanos verdadeiros
O avanço de Deepseek nos modelos de recompensa da IA: melhorar o raciocínio e a resposta da IA Startup Chinês Deepseek, em colaboração com a Universidade de Tsinghua, alcançou um marco significativo na pesquisa de IA. Sua abordagem inovadora para os modelos de recompensa da IA promete revolucionar como os sistemas de IA aprendem
Os pesquisadores desenvolvem rival de código aberto ao modelo de 'raciocínio' de US $ 50 do OpenAI por menos de US $ 50
Na sexta -feira passada, um artigo de pesquisa inovador da IA especialistas em Stanford e da Universidade de Washington entrou em cena, revelando que eles conseguiram desenvolver um modelo de "raciocínio" da IA, apelidado de S1, por menos de US $ 50 em créditos de computação em nuvem. Esta revelação está agitando o mundo da IA, pois S1 possui seu próprio
2025年04月11日 08:18:49
The CEO's concerns about DeepSeek are legit, but it's wild to think they're failing safety tests on bioweapons data. Makes you wonder what else is going on behind the scenes. I'm kinda spooked but also curious to see how this plays out. Stay safe, folks!
0
2025年04月11日 08:18:49
Las preocupaciones del CEO sobre DeepSeek son serias, pero es increíble pensar que están fallando en las pruebas de seguridad de datos de bioweapons. Me da un poco de miedo pero también curiosidad por ver cómo se desarrolla esto. ¡Mantente seguro, gente!
0
2025年04月11日 08:18:49
CEOのDeepSeekに対する懸念は本当だが、バイオウェポンのデータの安全性テストに失敗しているなんて信じられない。裏で何が起きているのか気になる。怖いけど、この先どうなるかも興味がある。みんながんばれ！
0
2025年04月11日 08:18:49
As preocupações do CEO sobre o DeepSeek são legítimas, mas é louco pensar que eles estão falhando nos testes de segurança de dados de bioweapons. Fica a dúvida sobre o que mais está acontecendo por trás das cenas. Estou um pouco assustado, mas também curioso para ver como isso vai se desenrolar. Fiquem seguros, pessoal!
0
2025年04月11日 08:18:49
Die Bedenken des CEOs über DeepSeek sind berechtigt, aber es ist verrückt zu denken, dass sie bei Sicherheitstests für Biowaffendaten durchfallen. Man fragt sich, was sonst noch hinter den Kulissen passiert. Ich bin ein bisschen erschrocken, aber auch neugierig, wie sich das entwickelt. Bleibt sicher, Leute!
0
2025年04月12日 18:19:53
Anthropic CEO's slam on DeepSeek is pretty intense! It's scary to think about AI being used for bioweapons. I hope they can sort out their data safety issues soon. It's a bit of a wake-up call for the whole industry. Stay safe, folks!
0
