바이오 무기 데이터 안전 테스트 실패에 대한 Anthropic CEO Slams Deepseek

# DeepSeek

Anthropic의 CEO 인 Dario Amodei는 R1 모델로 실리콘 밸리에서 파도를 만들고있는 중국 AI 회사 인 Deepseek에 대해 진지하게 우려하고 있습니다. 그리고 그의 걱정은 Deepseek가 사용자 데이터를 중국으로 돌려 보내는 것에 대한 일반적인 두려움을 뛰어 넘습니다. Jordan Schneider의 Chinatalk Podcast와의 최근 대화에서 Amodei는 DeepSeek의 AI 모델이 Anthropic이 실행하는 안전 테스트 중에 BioWeapons에 대한 매우 무서운 정보를 생성했다고 밝혔다. 그는 DeepSeek의 성능이 "기본적으로 우리가 테스트 한 모든 모델 중 최악"이라고 주장했다. "이 정보를 생성하는 것에 대해 전혀 블록이 없다"고 말했다. Amodei는 이러한 테스트는 AI 모델이 국가 안보 위험을 초래하는지 확인하기위한 Anthropic의 정기 평가의 일부라고 설명했습니다. 그들은 특히 모델이 Google이나 교과서에서 쉽게 찾을 수없는 생물 무기 관련 정보를 뱉을 수 있는지를 구체적으로 살펴 봅니다. 안트로는 안전을 진지하게 받아들이는 AI 회사가되는 것에 자부심을 느낍니다. Amodei는 DeepSeek의 현재 모델이 희귀하고 위험한 정보를 제공 할 때 "문자 그대로 위험하다"고 생각하지는 않지만 가까운 시일 내에있을 수 있다고 생각합니다. 그는 Deepseek의 팀을 "재능있는 엔지니어"로 칭찬했지만 회사는 "이러한 AI 안전 고려 사항을 심각하게 받아 들일 것"을 촉구했습니다. 또한 아도데이는 또한 중국 칩에 대한 강력한 수출 통제의 보컬 지지자였으며, 중국의 군대에 유리할 수 있다고 우려했다. Chinatalk 인터뷰에서 Amodei는 어떤 DeepSeek 모델의 의인성 테스트를 지정하지 않았거나 테스트에 대한 더 많은 기술적 인 세부 사항을 제공하지 않았습니다. Anthropic이나 Deepseek은 TechCrunch의 의견 요청에 즉시 응답하지 않았습니다. Deepseek의 빠른 상승은 다른 곳에서도 안전 문제를 제기했습니다. 지난주 시스코 보안 연구원들은 DeepSeek R1이 100% 탈옥 성공률로 안전 테스트에서 유해한 프롬프트를 차단하지 못했다고 말했다. Cisco는 Biowopons를 언급하지 않았지만 사이버 범죄 및 기타 불법 활동에 대한 유해한 정보를 생성 할 수있었습니다. 그러나 Meta의 LLAMA-3.1-405B와 OpenAI의 GPT-4O는 각각 96%와 86%의 고장률이 높았다는 점은 주목할 가치가 있습니다. 이러한 안전 문제로 인해 Deepseek의 빠른 채택에 심각한 움푹 들어간 곳이 있는지 여부는 여전히 공중에 있습니다. AWS 및 Microsoft와 같은 회사는 R1을 클라우드 플랫폼에 통합하는 것을 공개적으로 칭찬 해 왔습니다. Amazon은 Anthropic의 가장 큰 투자자라는 점을 고려할 때 아이러니 한 것입니다. 반대로, 점점 더 많은 국가, 회사, 특히 미 해군 및 국방부와 같은 정부 기관이 Deepseek을 금지하기 시작했습니다. 이러한 노력이 견인력을 얻는 지 또는 DeepSeek의 글로벌 상승이 계속 될지 시간만이 말할 것입니다. 어느 쪽이든, Amodei는 DeepSeek을 미국 최고의 AI 회사와 동등한 새로운 경쟁자라고 생각합니다. "여기서 새로운 사실은 새로운 경쟁자가 있다는 것입니다."라고 그는 Chinatalk에서 말했다. "Anthropic, Openai, Google, 아마도 메타 및 Xai를 훈련시킬 수있는 대기업에서는 이제 DeepSeek가 해당 범주에 추가되고있을 것입니다."

관련 기사

의견 (45)