탈옥 논란으로 전 세계적인 검열이 촉발되며, AI 모델 ‘클로드 페이블5’가 신속히 삭제되었다
앤트로픽(Anthropic)은 최근 자사가 지금까지 개발한 ‘마이토스(Mythos)’급 대규모 언어 모델 중 가장 강력한 모델이라고 설명하는 ‘클로드 페이블5(Claude Fable5)’를 공개했다. 이 모델이 코딩 및 복잡한 작업 처리에서 보여준 뛰어난 성능은 기술계에서 빠르게 큰 주목을 받았습니다. 그러나 출시 72시간도 채 되지 않아 미국 정부는 이 기대를 한 몸에 받던 AI 제품에 대해 전 세계적인 사용 금지 조치를 내렸고, 이에 앤트로픽은 모든 서비스를 중단해야만 했습니다.
이번 금지 조치는 특히 강경한 것으로 평가된다. 미국 정부는 국가 안보를 이유로, 미국 외 개인 및 기관뿐만 아니라 미국 내 외국인, 심지어 앤트로픽의 외국인 직원들까지 이 모델에 접근하는 것을 차단했다. 각 사용자의 국적을 신속하고 정확하게 확인하는 것이 기술적으로 어려웠기 때문에, 앤트로픽은 일괄적인 조치를 취해 ‘클로드 페이블5(Claude Fable5)’와 관련 모델인 ‘클로드 미토스5(Claude Mythos5)’의 모든 서비스를 중단했다. 영향을 받은 사용자들은 이제 자동으로 이전 버전으로 리디렉션된다.

이번 사태는 치명적인 취약점이 발견되면서 시작되었습니다. 보고서에 따르면 이 결함은 모델에 내장된 안전 장치를 우회하여 일종의 ‘탈옥(jailbreaking)’을 가능하게 할 수 있는 것으로 나타났습니다. 앤트로픽은 해당 탈옥 방법이 제한적이며 일반화될 수 없는 것이며, 모델이 출시 전 수천 시간에 걸친 레드팀 테스트를 거쳤다고 주장했습니다. 그럼에도 불구하고 미국 정부는 이례적으로 강경한 입장을 취했습니다. 당국 관계자들은 Claude Fable5의 처리 능력이 “네트워크 무기 수준”에 근접해 있어, 안전 조치가 뚫릴 경우 예측 불가능한 결과를 초래할 수 있다고 주장했습니다. 이들은 Anthropic 측에 해당 취약점을 즉시 수정하거나 제품을 시장에서 철수할 것을 요구했습니다.
양측은 이 취약점의 심각성을 둘러싸고 격렬한 대치 양상을 보이고 있다. 앤트로픽은 좁고 비일반적인 취약점 하나 때문에 수억 명의 사용자가 이용하는 제품을 중단하는 것은 업계에 위험한 선례를 남길 것이라고 주장했다. 그러나 내부 소식통들은 정부의 우려가 더 깊은 데 있다고 지적한다. 보도에 따르면 미국 당국은 중국과 연계된 조직들이 이미 이 취약점을 악용해 모델의 전체 기능을 확보했을 가능성이 있다고 의심하고 있으며, 이로 인해 리버스 엔지니어링이나 모델 증류(model distillation)의 위험이 높아질 수 있다고 한다.
관련 기사
사용자 반발 이후 메타, AI 사진 편집 기능 제거
Meta, the social media giant, is once again embroiled in a public debate regarding the delicate balance between artificial intelligence and user privacy. According to TechCrunch, Meta’s Superintelligence Labs introduced a new AI image generator, Muse
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
관련 특별 주제 추천
의견 (0)
0/500
앤트로픽(Anthropic)은 최근 자사가 지금까지 개발한 ‘마이토스(Mythos)’급 대규모 언어 모델 중 가장 강력한 모델이라고 설명하는 ‘클로드 페이블5(Claude Fable5)’를 공개했다. 이 모델이 코딩 및 복잡한 작업 처리에서 보여준 뛰어난 성능은 기술계에서 빠르게 큰 주목을 받았습니다. 그러나 출시 72시간도 채 되지 않아 미국 정부는 이 기대를 한 몸에 받던 AI 제품에 대해 전 세계적인 사용 금지 조치를 내렸고, 이에 앤트로픽은 모든 서비스를 중단해야만 했습니다.
이번 금지 조치는 특히 강경한 것으로 평가된다. 미국 정부는 국가 안보를 이유로, 미국 외 개인 및 기관뿐만 아니라 미국 내 외국인, 심지어 앤트로픽의 외국인 직원들까지 이 모델에 접근하는 것을 차단했다. 각 사용자의 국적을 신속하고 정확하게 확인하는 것이 기술적으로 어려웠기 때문에, 앤트로픽은 일괄적인 조치를 취해 ‘클로드 페이블5(Claude Fable5)’와 관련 모델인 ‘클로드 미토스5(Claude Mythos5)’의 모든 서비스를 중단했다. 영향을 받은 사용자들은 이제 자동으로 이전 버전으로 리디렉션된다.

이번 사태는 치명적인 취약점이 발견되면서 시작되었습니다. 보고서에 따르면 이 결함은 모델에 내장된 안전 장치를 우회하여 일종의 ‘탈옥(jailbreaking)’을 가능하게 할 수 있는 것으로 나타났습니다. 앤트로픽은 해당 탈옥 방법이 제한적이며 일반화될 수 없는 것이며, 모델이 출시 전 수천 시간에 걸친 레드팀 테스트를 거쳤다고 주장했습니다. 그럼에도 불구하고 미국 정부는 이례적으로 강경한 입장을 취했습니다. 당국 관계자들은 Claude Fable5의 처리 능력이 “네트워크 무기 수준”에 근접해 있어, 안전 조치가 뚫릴 경우 예측 불가능한 결과를 초래할 수 있다고 주장했습니다. 이들은 Anthropic 측에 해당 취약점을 즉시 수정하거나 제품을 시장에서 철수할 것을 요구했습니다.
양측은 이 취약점의 심각성을 둘러싸고 격렬한 대치 양상을 보이고 있다. 앤트로픽은 좁고 비일반적인 취약점 하나 때문에 수억 명의 사용자가 이용하는 제품을 중단하는 것은 업계에 위험한 선례를 남길 것이라고 주장했다. 그러나 내부 소식통들은 정부의 우려가 더 깊은 데 있다고 지적한다. 보도에 따르면 미국 당국은 중국과 연계된 조직들이 이미 이 취약점을 악용해 모델의 전체 기능을 확보했을 가능성이 있다고 의심하고 있으며, 이로 인해 리버스 엔지니어링이나 모델 증류(model distillation)의 위험이 높아질 수 있다고 한다.
사용자 반발 이후 메타, AI 사진 편집 기능 제거
Meta, the social media giant, is once again embroiled in a public debate regarding the delicate balance between artificial intelligence and user privacy. According to TechCrunch, Meta’s Superintelligence Labs introduced a new AI image generator, Muse
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의





집






