바이오 무기 데이터 안전 테스트 실패에 대한 Anthropic CEO Slams Deepseek

Anthropic의 CEO인 Dario Amodei는 중국 AI 기업 DeepSeek에 대해 심각하게 우려하고 있으며, 이 기업은 R1 모델로 실리콘밸리에서 파장을 일으키고 있다. 그의 우려는 DeepSeek이 사용자 데이터를 중국으로 전송할 수 있다는 일반적인 두려움을 넘어선다.

최근 Jordan Schneider의 ChinaTalk 팟캐스트에서 진행된 대화에서 Amodei는 Anthropic이 실시한 안전 테스트에서 DeepSeek의 AI 모델이 생물무기에 대한 상당히 무서운 정보를 생성했다고 밝혔다. 그는 DeepSeek의 성능이 "우리가 테스트한 거의 모든 모델 중 최악"이었다며, "이 정보를 생성하는 데 전혀 제약이 없었다"고 말했다.

Amodei는 이러한 테스트가 AI 모델이 국가 안보에 위험을 초래하는지 확인하기 위해 Anthropic이 정기적으로 수행하는 평가의 일부라고 설명했다. 그들은 특히 Google이나 교과서에서 쉽게 찾을 수 없는 생물무기 관련 정보를 모델이 출력할 수 있는지 살펴본다. Anthropic은 안전을 진지하게 고려하는 AI 기업임을 자부한다.

Amodei는 DeepSeek의 현재 모델이 희귀하고 위험한 정보를 제공하는 데 있어 "직접적으로 위험하다"고 생각하지는 않지만, 가까운 미래에 그럴 가능성이 있다고 믿는다. 그는 DeepSeek의 팀을 "재능 있는 엔지니어"라고 칭찬했지만, 기업이 "AI 안전 고려 사항을 진지하게 받아들여야 한다"고 촉구했다.

Amodei는 또한 중국에 대한 강력한 칩 수출 통제를 지지하는 목소리를 내왔으며, 이것이 중국 군사에 이점을 줄 수 있다고 우려했다.

ChinaTalk 인터뷰에서 Amodei는 Anthropic이 테스트한 DeepSeek 모델이 무엇인지 구체적으로 밝히지 않았으며, 테스트에 대한 더 많은 기술적 세부사항도 제공하지 않았다. Anthropic과 DeepSeek 모두 TechCrunch의 논평 요청에 즉시 응답하지 않았다.

DeepSeek의 급격한 부상은 다른 곳에서도 안전 우려를 불러일으켰다. 지난주 Cisco 보안 연구원들은 DeepSeek R1이 안전 테스트에서 유해한 프롬프트를 전혀 차단하지 못했으며, 100% 탈옥 성공률을 기록했다고 밝혔다. Cisco는 생물무기를 언급하지 않았지만, DeepSeek이 사이버범죄 및 기타 불법 활동에 대한 유해한 정보를 생성하도록 유도할 수 있었다. 다만, Meta의 Llama-3.1-405B와 OpenAI의 GPT-4o도 각각 96%와 86%의 높은 실패율을 기록했다는 점을 주목할 만하다.

이러한 안전 우려가 DeepSeek의 빠른 채택에 심각한 타격을 줄지는 여전히 불확실하다. AWS와 Microsoft 같은 기업들은 R1을 그들의 클라우드 플랫폼에 통합한 것을 공개적으로 칭찬해 왔는데, 이는 Amazon이 Anthropic의 최대 투자자라는 점을 고려하면 다소 아이러니하다.

반면, 미국 해군과 펜타곤 같은 점점 더 많은 국가, 기업, 특히 정부 기관들이 DeepSeek을 금지하기 시작했다.

이러한 노력이 힘을 얻을지, 아니면 DeepSeek의 글로벌 부상이 계속해서 강하게 이어질지는 시간이 지나야 알 수 있다. 어쨌든 Amodei는 DeepSeek을 미국의 최고 AI 기업들과 동등한 새로운 경쟁자로 간주한다.

"여기서 새로운 사실은 새로운 경쟁자가 나타났다는 것"이라고 그는 ChinaTalk에서 말했다. "AI를 훈련시킬 수 있는 큰 기업들 – Anthropic, OpenAI, Google, 아마도 Meta와 xAI – 이제 DeepSeek이 그 범주에 추가되고 있을지도 모른다."