人類首席執行官猛烈抨擊生物武器數據安全測試的DeepSeek
Anthropic的首席執行官Dario Amodei對DeepSeek非常擔心，DeepSeek是一家以R1模型在矽谷大放異彩的中國人工智能公司。而且他的擔憂超越了對DeepSeek將用戶數據發送回中國的通常擔心。在最近關於喬丹·施耐德（Jordan Schneider）的唐納克播客的聊天中，Amodei透露，DeepSeek的AI模型在Anthropic運行的安全測試中產生了一些有關生物武器的可怕信息。他聲稱，DeepSeek的性能是“我們已經測試過的任何模型的最糟糕的表現”，他說“絕對沒有任何障礙，可以反對生成此信息”。 Amodei解釋說，這些測試是Anthropic定期評估的一部分，以檢查AI模型是否構成任何國家安全風險。他們特別研究了模型是否可以吐出與您在Google或教科書中無法輕易找到的與生物武器相關的信息。擬人化以認真對待安全的AI公司而自豪。儘管Amodei在提供稀有且風險的信息方面並不認為DeepSeek當前的模型“字面上是危險的”，但他認為它們可能會在不久的將來。他稱讚DeepSeek的團隊為“才華橫溢的工程師”，但敦促該公司“認真對待這些AI安全考慮”。 Amodei還一直是對中國籌碼的強大出口控制權的聲音支持者，擔心他們會給中國的軍事優勢帶來優勢。在Chinatalk訪談中，Amodei沒有指定對哪種DeepSeek模型進行了測試或提供有關測試的更多技術細節。人類和DeepSeek都沒有立即回應TechCrunch的置評請求。 DeepSeek的迅速上升也引起了其他地方的安全問題。上週，思科安全研究人員說，DeepSeek R1沒有阻止其安全測試中的任何有害提示，並以100％的越獄成功率阻止了任何有害的提示。儘管思科沒有提及生物武器，但他們能夠獲得有關網絡犯罪和其他非法活動的有害信息。不過，值得注意的是，Meta的Llama-3.1-405B和OpenAI的GPT-4O的失敗率分別為96％和86％。這些安全問題是否會嚴重削弱DeepSeek的迅速採用。像AWS和Microsoft這樣的公司一直在公開稱讚R1在其云平台中的整合 - 考慮到亞馬遜是擬人化的最大投資者，這具有諷刺意味。另一方面，越來越多的國家，公司，尤其是美國海軍和五角大樓等政府組織開始禁止DeepSeek。只有時間才能證明這些努力是否受到關注，或者DeepSeek的全球崛起是否會保持強勁。無論哪種方式，Amodei都認為DeepSeek是與美國頂級AI公司相提並論的新競爭對手。他在Chinatalk上說：“這裡的新事實是有一個新的競爭對手。” “在大型公司中，可以培訓AI（人為，Openai，Google，也許是Meta和Xai）的大公司，現在可能正在將DeepSeek添加到該類別中。”
相關文章
DeepSeek-GRM：為企業打造可擴展、高性價比的AI解決方案
如果你經營著一家企業，你就知道將人工智慧（AI）整合到你的營運中有多麼艱難。高昂的成本和技術複雜性往往使先進的AI模型超出小型公司的能力範圍。但這就是DeepSeek-GRM的切入點，旨在使AI更加高效且易於取得，縮小大型科技公司與小型企業之間的差距。DeepSeek-GRM 使用一種稱為生成式獎勵建模（GRM）的聰明技術來引導AI回應更符合人類的需求。這一
新技術使DeepSeek和其他模型能夠響應敏感的查詢
從中國的DeepSeek等大型語言模型（LLM）中消除偏見和審查是一個複雜的挑戰，引起了美國決策者和商業領袖的關注，他們認為這是潛在的國家安全威脅。美國國會選拔委員會的最新報告標記為深層
前Deepseeker和合作者發布了新的培訓可靠AI代理的方法：Ragen
人工智能代理年度：仔細研究2025年的期望和現實2025年被許多專家預示為當年的AI代理商（由高級大型語言和多式聯運公司提供支持的AI代理商），來自OpenAI，Anthropic，Google和Google和Deepseek等公司，最終將帶上中心中心中心中心。
評論 (50)
0/200
![RichardThomas]()
RichardThomas
2025-04-11 08:00:00
The CEO's concerns about DeepSeek are legit, but it's wild to think they're failing safety tests on bioweapons data. Makes you wonder what else is going on behind the scenes. I'm kinda spooked but also curious to see how this plays out. Stay safe, folks!
0
![WillieRodriguez]()
WillieRodriguez
2025-04-11 08:00:00
Las preocupaciones del CEO sobre DeepSeek son serias, pero es increíble pensar que están fallando en las pruebas de seguridad de datos de bioweapons. Me da un poco de miedo pero también curiosidad por ver cómo se desarrolla esto. ¡Mantente seguro, gente!
0
![PaulLopez]()
PaulLopez
2025-04-11 08:00:00
CEOのDeepSeekに対する懸念は本当だが、バイオウェポンのデータの安全性テストに失敗しているなんて信じられない。裏で何が起きているのか気になる。怖いけど、この先どうなるかも興味がある。みんながんばれ！
0
![JustinWilliams]()
JustinWilliams
2025-04-11 08:00:00
As preocupações do CEO sobre o DeepSeek são legítimas, mas é louco pensar que eles estão falhando nos testes de segurança de dados de bioweapons. Fica a dúvida sobre o que mais está acontecendo por trás das cenas. Estou um pouco assustado, mas também curioso para ver como isso vai se desenrolar. Fiquem seguros, pessoal!
0
![WalterWhite]()
WalterWhite
2025-04-11 08:00:00
Die Bedenken des CEOs über DeepSeek sind berechtigt, aber es ist verrückt zu denken, dass sie bei Sicherheitstests für Biowaffendaten durchfallen. Man fragt sich, was sonst noch hinter den Kulissen passiert. Ich bin ein bisschen erschrocken, aber auch neugierig, wie sich das entwickelt. Bleibt sicher, Leute!
0
![WalterBaker]()
WalterBaker
2025-04-13 08:00:00
Anthropic CEO's slam on DeepSeek is pretty intense! It's scary to think about AI being used for bioweapons. I hope they can sort out their data safety issues soon. It's a bit of a wake-up call for the whole industry. Stay safe, folks!
0
DeepSeek-GRM：為企業打造可擴展、高性價比的AI解決方案
如果你經營著一家企業，你就知道將人工智慧（AI）整合到你的營運中有多麼艱難。高昂的成本和技術複雜性往往使先進的AI模型超出小型公司的能力範圍。但這就是DeepSeek-GRM的切入點，旨在使AI更加高效且易於取得，縮小大型科技公司與小型企業之間的差距。DeepSeek-GRM 使用一種稱為生成式獎勵建模（GRM）的聰明技術來引導AI回應更符合人類的需求。這一
新技術使DeepSeek和其他模型能夠響應敏感的查詢
從中國的DeepSeek等大型語言模型（LLM）中消除偏見和審查是一個複雜的挑戰，引起了美國決策者和商業領袖的關注，他們認為這是潛在的國家安全威脅。美國國會選拔委員會的最新報告標記為深層
前Deepseeker和合作者發布了新的培訓可靠AI代理的方法：Ragen
人工智能代理年度：仔細研究2025年的期望和現實2025年被許多專家預示為當年的AI代理商（由高級大型語言和多式聯運公司提供支持的AI代理商），來自OpenAI，Anthropic，Google和Google和Deepseek等公司，最終將帶上中心中心中心中心。
2025-04-11 08:00:00
The CEO's concerns about DeepSeek are legit, but it's wild to think they're failing safety tests on bioweapons data. Makes you wonder what else is going on behind the scenes. I'm kinda spooked but also curious to see how this plays out. Stay safe, folks!
0
2025-04-11 08:00:00
Las preocupaciones del CEO sobre DeepSeek son serias, pero es increíble pensar que están fallando en las pruebas de seguridad de datos de bioweapons. Me da un poco de miedo pero también curiosidad por ver cómo se desarrolla esto. ¡Mantente seguro, gente!
0
2025-04-11 08:00:00
CEOのDeepSeekに対する懸念は本当だが、バイオウェポンのデータの安全性テストに失敗しているなんて信じられない。裏で何が起きているのか気になる。怖いけど、この先どうなるかも興味がある。みんながんばれ！
0
2025-04-11 08:00:00
As preocupações do CEO sobre o DeepSeek são legítimas, mas é louco pensar que eles estão falhando nos testes de segurança de dados de bioweapons. Fica a dúvida sobre o que mais está acontecendo por trás das cenas. Estou um pouco assustado, mas também curioso para ver como isso vai se desenrolar. Fiquem seguros, pessoal!
0
2025-04-11 08:00:00
Die Bedenken des CEOs über DeepSeek sind berechtigt, aber es ist verrückt zu denken, dass sie bei Sicherheitstests für Biowaffendaten durchfallen. Man fragt sich, was sonst noch hinter den Kulissen passiert. Ich bin ein bisschen erschrocken, aber auch neugierig, wie sich das entwickelt. Bleibt sicher, Leute!
0
2025-04-13 08:00:00
Anthropic CEO's slam on DeepSeek is pretty intense! It's scary to think about AI being used for bioweapons. I hope they can sort out their data safety issues soon. It's a bit of a wake-up call for the whole industry. Stay safe, folks!
0
