人類首席執行官猛烈抨擊生物武器數據安全測試的DeepSeek

Anthropic的首席執行官Dario Amodei對中國AI公司DeepSeek深感憂慮,這家公司憑藉其R1模型在矽谷掀起波瀾。他的擔憂不僅限於DeepSeek將用戶數據傳回中國的常見恐懼。
在近期Jordan Schneider的ChinaTalk播客對談中,Amodei透露,DeepSeek的AI模型在Anthropic進行的安全測試中生成了一些關於生物武器的令人震驚的資訊。他聲稱DeepSeek的表現是「我們測試過的幾乎所有模型中最差的」,表示它「對生成這些資訊完全沒有任何防護措施」。
Amodei解釋說,這些測試是Anthropic定期評估的一部分,用以檢查AI模型是否構成國家安全風險。他們特別關注模型是否能生成Google或教科書上不易找到的生物武器相關資訊。Anthropic以重視安全的AI公司自居。
雖然Amodei認為DeepSeek目前的模型在提供稀有且危險的資訊方面「尚未真正危險」,但他相信在不久的將來可能會變得危險。他稱讚DeepSeek的團隊是「才華洋溢的工程師」,但敦促該公司「認真對待這些AI安全考量」。
Amodei也一直是對中國實施強硬晶片出口管制的積極支持者,擔心這可能為中國軍方帶來優勢。
在ChinaTalk的訪談中,Amodei未具體說明Anthropic測試了DeepSeek的哪個模型,也未提供更多技術細節。Anthropic和DeepSeek均未立即回應TechCrunch的評論請求。
DeepSeek的快速崛起也在其他地方引發了安全擔憂。上週,Cisco安全研究人員表示,DeepSeek R1在安全測試中未能阻止任何有害提示,實現了100%的越獄成功率。雖然Cisco未提及生物武器,但他們成功讓DeepSeek生成了關於網路犯罪和其他非法活動的有害資訊。不過值得注意的是,Meta的Llama-3.1-405B和OpenAI的GPT-4o的失敗率分別高達96%和86%。
這些安全問題是否會嚴重影響DeepSeek的快速採用仍未可知。AWS和Microsoft等公司公開讚揚將R1整合到其雲端平台——這有點諷刺,因為Amazon是Anthropic的最大投資者。
另一方面,越來越多的國家、公司,特別是美國海軍和五角大廈等政府組織已開始禁止使用DeepSeek。
只有時間能證明這些努力是否會取得成效,或者DeepSeek的全球崛起是否會繼續強勁。無論如何,Amodei認為DeepSeek是與美國頂尖AI公司齊名的新競爭者。
「這裡的新事實是出現了一個新競爭者,」他在ChinaTalk上說。「在能夠訓練AI的大公司中——Anthropic、OpenAI、Google,或許還有Meta和xAI——現在DeepSeek可能也加入了這個行列。」
相關文章
DeepSeek 推出可與前沿系統匹敵的人工智慧模型
中國人工智慧實驗室 DeepSeek 已發布其最新大型語言模型 DeepSeek V4 的兩個預覽版本,這是對去年 V3.2 模型及其配套的 R1 推理模型的備受期待的更新,該模型曾在人工智慧界引起巨大迴響。該公司表示,DeepSeek V4 Flash 與 V4 Pro 均屬專家混合模型,各自具備 100 萬個標記的上下文視窗——足以處理提示語中的龐大程式碼庫或文件。此專家混合方法會針對每項任務
DeepSeek V3.2 人工智慧模型以最低運算成本實現頂尖效能
當大型科技公司投入數十億美元計算資源開發尖端AI模型時,中國的DeepSeek憑藉更聰明的策略而非規模優勢達成了同等成果。DeepSeek V3.2模型在推理基準測試中媲美OpenAI的GPT-5,卻僅耗費「更少的總訓練浮點運算次數」——這項突破或將重新定義業界構建複雜人工智慧的途徑。對企業而言,此版本釋出表明頂尖AI能力未必需要頂尖運算預算。DeepSeek V3.2的開源特性使組織能在掌控部署
安全主管敦促迅速監管人工智能,指出 DeepSeek 等工具的風險
安全作業中心,尤其是首席資訊安全官 (CISO) 對於來自中國的人工智慧巨擘 DeepSeek 的憂慮與日俱增。雖然人工智慧起初被讚譽為企業效率與創新的突破,但現在卻讓領導企業防禦的人員感到極度不安。絕大多數(81%)的英國 CISO 呼籲政府立即對中國的 AI 聊天機進行監管。他們警告說,如果不迅速採取行動,該工具可能會引發全國性的網路安全危機。這種憂慮並非基於猜測,而是直接源自於該技術不透明的
相關專題推薦
評論 (51)
0/500
So basically DeepSeek failed a basic safety test on bioweapons data, and Anthropic's CEO is all up in arms about it. I get the concern, but it feels a bit like throwing stones from a glass house—every AI company has had their share of safety hiccups. Also, the whole 'data going back to China' panic is getting old. 🙄 Let's focus on fixing the actual problem instead of turning it into a geopolitical drama.
O CEO da Anthropic criticando a DeepSeek é assustador! Se eles não conseguem manter os dados de bioweapons seguros, o que mais estão fazendo de errado? Isso me faz pensar duas vezes sobre usar qualquer AI deles. Espero que resolvam isso rápido! 😱
Nossa, o CEO da Anthropic realmente detonou a DeepSeek por falhar no teste de segurança de dados de bioweapons! É assustador pensar que empresas de IA não priorizam a segurança. Fica a dúvida sobre o que mais está acontecendo nos bastidores. Mantenha-se seguro, pessoal! 😱
El fracaso de DeepSeek en la prueba de seguridad de datos de bioweapons es muy preocupante. Preocuparse por la privacidad de los datos es una cosa, pero esto es de otro nivel. El CEO de Anthropic tiene razón al criticarlos. Necesitamos más transparencia y seguridad en la IA, ¡rápido! 😠
딥시크가 생물무기 데이터 안전성 테스트에 실패한 것은 정말 걱정스럽습니다. 데이터 프라이버시는 하나의 문제지만, 이것은 다른 차원의 문제입니다. 안트로픽의 CEO가 그들을 비판하는 것은 옳습니다. AI에는 더 많은 투명성과 안전성이 필요합니다, 급하게요! 😠

Anthropic的首席執行官Dario Amodei對中國AI公司DeepSeek深感憂慮,這家公司憑藉其R1模型在矽谷掀起波瀾。他的擔憂不僅限於DeepSeek將用戶數據傳回中國的常見恐懼。
在近期Jordan Schneider的ChinaTalk播客對談中,Amodei透露,DeepSeek的AI模型在Anthropic進行的安全測試中生成了一些關於生物武器的令人震驚的資訊。他聲稱DeepSeek的表現是「我們測試過的幾乎所有模型中最差的」,表示它「對生成這些資訊完全沒有任何防護措施」。
Amodei解釋說,這些測試是Anthropic定期評估的一部分,用以檢查AI模型是否構成國家安全風險。他們特別關注模型是否能生成Google或教科書上不易找到的生物武器相關資訊。Anthropic以重視安全的AI公司自居。
雖然Amodei認為DeepSeek目前的模型在提供稀有且危險的資訊方面「尚未真正危險」,但他相信在不久的將來可能會變得危險。他稱讚DeepSeek的團隊是「才華洋溢的工程師」,但敦促該公司「認真對待這些AI安全考量」。
Amodei也一直是對中國實施強硬晶片出口管制的積極支持者,擔心這可能為中國軍方帶來優勢。
在ChinaTalk的訪談中,Amodei未具體說明Anthropic測試了DeepSeek的哪個模型,也未提供更多技術細節。Anthropic和DeepSeek均未立即回應TechCrunch的評論請求。
DeepSeek的快速崛起也在其他地方引發了安全擔憂。上週,Cisco安全研究人員表示,DeepSeek R1在安全測試中未能阻止任何有害提示,實現了100%的越獄成功率。雖然Cisco未提及生物武器,但他們成功讓DeepSeek生成了關於網路犯罪和其他非法活動的有害資訊。不過值得注意的是,Meta的Llama-3.1-405B和OpenAI的GPT-4o的失敗率分別高達96%和86%。
這些安全問題是否會嚴重影響DeepSeek的快速採用仍未可知。AWS和Microsoft等公司公開讚揚將R1整合到其雲端平台——這有點諷刺,因為Amazon是Anthropic的最大投資者。
另一方面,越來越多的國家、公司,特別是美國海軍和五角大廈等政府組織已開始禁止使用DeepSeek。
只有時間能證明這些努力是否會取得成效,或者DeepSeek的全球崛起是否會繼續強勁。無論如何,Amodei認為DeepSeek是與美國頂尖AI公司齊名的新競爭者。
「這裡的新事實是出現了一個新競爭者,」他在ChinaTalk上說。「在能夠訓練AI的大公司中——Anthropic、OpenAI、Google,或許還有Meta和xAI——現在DeepSeek可能也加入了這個行列。」
DeepSeek 推出可與前沿系統匹敵的人工智慧模型
中國人工智慧實驗室 DeepSeek 已發布其最新大型語言模型 DeepSeek V4 的兩個預覽版本,這是對去年 V3.2 模型及其配套的 R1 推理模型的備受期待的更新,該模型曾在人工智慧界引起巨大迴響。該公司表示,DeepSeek V4 Flash 與 V4 Pro 均屬專家混合模型,各自具備 100 萬個標記的上下文視窗——足以處理提示語中的龐大程式碼庫或文件。此專家混合方法會針對每項任務
DeepSeek V3.2 人工智慧模型以最低運算成本實現頂尖效能
當大型科技公司投入數十億美元計算資源開發尖端AI模型時,中國的DeepSeek憑藉更聰明的策略而非規模優勢達成了同等成果。DeepSeek V3.2模型在推理基準測試中媲美OpenAI的GPT-5,卻僅耗費「更少的總訓練浮點運算次數」——這項突破或將重新定義業界構建複雜人工智慧的途徑。對企業而言,此版本釋出表明頂尖AI能力未必需要頂尖運算預算。DeepSeek V3.2的開源特性使組織能在掌控部署
安全主管敦促迅速監管人工智能,指出 DeepSeek 等工具的風險
安全作業中心,尤其是首席資訊安全官 (CISO) 對於來自中國的人工智慧巨擘 DeepSeek 的憂慮與日俱增。雖然人工智慧起初被讚譽為企業效率與創新的突破,但現在卻讓領導企業防禦的人員感到極度不安。絕大多數(81%)的英國 CISO 呼籲政府立即對中國的 AI 聊天機進行監管。他們警告說,如果不迅速採取行動,該工具可能會引發全國性的網路安全危機。這種憂慮並非基於猜測,而是直接源自於該技術不透明的
So basically DeepSeek failed a basic safety test on bioweapons data, and Anthropic's CEO is all up in arms about it. I get the concern, but it feels a bit like throwing stones from a glass house—every AI company has had their share of safety hiccups. Also, the whole 'data going back to China' panic is getting old. 🙄 Let's focus on fixing the actual problem instead of turning it into a geopolitical drama.
O CEO da Anthropic criticando a DeepSeek é assustador! Se eles não conseguem manter os dados de bioweapons seguros, o que mais estão fazendo de errado? Isso me faz pensar duas vezes sobre usar qualquer AI deles. Espero que resolvam isso rápido! 😱
Nossa, o CEO da Anthropic realmente detonou a DeepSeek por falhar no teste de segurança de dados de bioweapons! É assustador pensar que empresas de IA não priorizam a segurança. Fica a dúvida sobre o que mais está acontecendo nos bastidores. Mantenha-se seguro, pessoal! 😱
El fracaso de DeepSeek en la prueba de seguridad de datos de bioweapons es muy preocupante. Preocuparse por la privacidad de los datos es una cosa, pero esto es de otro nivel. El CEO de Anthropic tiene razón al criticarlos. Necesitamos más transparencia y seguridad en la IA, ¡rápido! 😠
딥시크가 생물무기 데이터 안전성 테스트에 실패한 것은 정말 걱정스럽습니다. 데이터 프라이버시는 하나의 문제지만, 이것은 다른 차원의 문제입니다. 안트로픽의 CEO가 그들을 비판하는 것은 옳습니다. AI에는 더 많은 투명성과 안전성이 필요합니다, 급하게요! 😠





首頁






