정부가 앤트로픽의 가장 강력한 AI를 중단시키면서, 해당 기업의 안전 경고가 역효과를 낳았다
지난 금요일, 미국 정부는 국가 안보 위험을 이유로 앤트로픽(Anthropic)에 자사의 가장 진보된 AI 시스템 두 가지인 ‘클로드 페이블 5(Claude Fable 5)’와 ‘클로드 미토스 5(Claude Mythos 5)’에 대한 접근을 즉시 차단할 것을 명령했다. 앤트로픽은 X를 통해 이 명령을 준수했음을 확인했으나, 정부의 결정이 잘못된 것이라고 밝혔다.
앤트로픽에 따르면, 이 지시는 금요일 오후 5시 21분(미국 동부 시간)에 전달되었으며, 회사는 원래 수출 통제 명령의 대상이었던 외국인뿐만 아니라 전 세계 모든 사용자에 대해 두 모델의 사용을 차단해야 했다. 앤트로픽의 다른 모델들은 이번 조치의 영향을 받지 않는다.
이 문제가 중요한 이유는 무엇일까요? ‘Mythos’는 앤트로픽의 가장 강력한 AI로, 4월 초에 미리 공개된 바 있으며 소프트웨어 보안 취약점을 식별하는 탁월한 능력으로 인해 엄격한 제한 하에 관리되어 왔습니다. 앤트로픽에 따르면, ‘마이토스’는 테스트된 모든 주요 운영 체제와 웹 브라우저에서 결함을 발견했다. 이에 따라 회사는 광범위한 공개 대신, 아마존, 애플, 구글, 마이크로소프트, 크라우드스트라이크 등 약 50개의 사전 심사된 기관에 사이버 보안 방어 목적으로 접근 권한을 제한적으로 부여하는 ‘프로젝트 글래스윙(Project Glasswing)’을 시작했다.
불과 3일 전에 출시된 ‘Fable 5’는 사이버 보안 및 생물학 등 고위험 분야에서 응답을 차단하는 안전 장치가 적용된 ‘Mythos’ 버전을 제공함으로써 상업적 압박에 대응하고 있다. Anthropic은 이를 통해 일반 사용에도 안전하다고 주장하며, AI 성능을 추적하는 Vals AI의 벤치마크 테스트 결과, 이 모델이 현재 가장 뛰어난 성능을 가진 공개 AI 모델임이 확인되었다.

이미지 출처:Vals AI /
정부가 이를 외국인의 접근을 제한하는 수출 통제 조치로 규정하는 반면, 앤트로픽은 상세한 블로그 게시물을 통해 실제 문제는 ‘Fable 5의 탈옥(jailbreak)’ 주장에 있다고 반박한다. 이 회사는 정부가 “잠재적이며 제한적이고 보편적이지 않은 탈옥”에 대한 구두 증거만을 제시했을 뿐이라고 밝혔는데, 이는 모델에게 특정 코드베이스를 분석해 소프트웨어 결함을 찾아내도록 프롬프트를 주는 것을 의미합니다. Anthropic은 이러한 기능이 OpenAI의 GPT-5.5와 같은 다른 공개 모델에서도 이미 널리 이용 가능하며, 사이버 보안 전문가들이 방어 목적으로 일상적으로 사용하고 있다고 지적합니다.
앤트로픽의 핵심 주장은 자사의 가장 강력한 안전 장치가 모델 자체와는 별개의 독립적인 분류기 시스템에 의존한다는 점이다. 이는 사용자가 거부 조치를 우회하더라도 위험한 출력에 대한 근본적인 보호 장치는 여전히 활성화된 상태로 유지된다는 것을 의미한다.
이러한 안전장치에도 불구하고 정부는 조치를 강행했으며, 앤트로픽은 이에 대한 불만을 공개적으로 표명했다. “수백만 명에게 배포된 상용 모델을 회수해야 할 근거로, 잠재적인 탈옥 가능성이 좁게 발견되었다는 점을 인정할 수 없다”고 회사는 밝혔다. “만약 이 기준이 업계 전반에 적용된다면, 모든 최첨단 모델 제공업체의 신규 모델 배포가 사실상 중단될 것이라고 생각합니다.”
앤트로픽은 올해 기업공개(IPO)를 추진할 것으로 널리 예상되며, 경쟁사들에 비해 안전성을 중시하는 대안 기업으로 자리매김하고 있다. 관측통들은 앤트로픽이 ‘마이토스(Mythos)’를 제한하는 데 보여준 신중함 — 대중에게 공개하기에는 너무 위험하다고 홍보했던 점 — 이 이제 오히려 자사의 사업을 방해할 수 있는 정부의 감시를 촉발했다는 아이러니를 지적한다.
오픈AI의 샘 알트먼은 이러한 상황을 즐기고 있는 듯하다. 지난 4월, 그는 팟캐스터 애슐리 밴스에게 앤트로픽의 ‘마이토스’ 대응 방식이 “공포에 기반한 마케팅”이라고 말했다. “‘우리가 폭탄을 만들었습니다. 여러분의 머리에 투하하려던 참이었습니다. 1억 달러에 방공호를 팔겠습니다’라고 말하는 건 분명 놀라운 마케팅 전략입니다”라고 알트먼은 말했다. 자사도 조만간 기업공개(IPO)를 계획 중인 알트먼은 정부의 운영 중단까지는 예상하지 않았지만, 앤트로픽 전략의 한 가지 결과를 지적했다. 즉, 수개월에 걸쳐 자사의 AI가 유례없이 위험하다고 경고함으로써, 앤트로픽은 미국 정부가 이를 주목하도록 만들었다는 것이다.
관련 기사
OpenAI가 ChatGPT의 새로운 기본 모델로 GPT-5.5 Instant를 출시합니다
OpenAI는 월요일 GPT-5.5 Instant을 출시하여 기본 ChatGPT 모델을 GPT-5.3 Instant에서 대체했습니다. 이 회사는 이번 업데이트가 법률, 의료, 금융과 같은 고위험 분야에서 환각 현상을 최소화하면서도 이전 버전의 빠른 응답 시간을 유지한다고 밝혔습니다.지난달 코딩 및 지식 작업 분야의 개선을 강조한 광범위한 GPT-5.5 시리즈 출시 이후, OpenAI는 이제 이러한 개선 사항을 인스턴트 모델에 통합했습니다.성
사서들, 빅테크에 지친 사람들을 위한 'AI 피하기' 워크숍 열풍
“저의 도서관 프로그램에서는 모든 사람이 화면에 고정되어 있습니다,”라고 필라델피아 남부 지역 도서관 사서인 찰리 베이는 농담조로 말했다. 그는 청중에게 휴대폰을 꺼내도록 초대하여 애플 인텔리전스와 제미니를 비활성화하는 방법을 안내했다.베이아는 어린이 도서관 교실에 서 있으며, M은 ‘달(moon)’이고 Z는 ‘얼룩말(zebra)’을 의미한다는 것을 상기시켜주는 다채로운 카펫에 고정되어 있다. 하지만 방 안의 20대 성인들은 알파벳 수업을 듣기
Adobe, 포토샵용 AI 어시스턴트 공개
아도비는 화요일 포토샵용 AI 어시스턴트가 웹과 모바일 앱에서 베타 버전으로 사용 가능해졌다고 발표했습니다. 또한 이 회사는 미디어 생성 및 편집을 위한 도구인 파이어플라이에 새로운 AI 기반 이미지 편집 기능을 추가하고 있습니다.이 크리에이티브 도구 회사는 지난 10월 MAX 행사에서 포토샵용 AI 어시스턴트를 처음 발표했습니다. 이제 사용자에게 롤아웃되고 있는 이 기능은 이미지를 통해 객체나 사람을 제거하거나, 색상을 변경하거나, 명암을 조
관련 특별 주제 추천
의견 (0)
0/500
지난 금요일, 미국 정부는 국가 안보 위험을 이유로 앤트로픽(Anthropic)에 자사의 가장 진보된 AI 시스템 두 가지인 ‘클로드 페이블 5(Claude Fable 5)’와 ‘클로드 미토스 5(Claude Mythos 5)’에 대한 접근을 즉시 차단할 것을 명령했다. 앤트로픽은 X를 통해 이 명령을 준수했음을 확인했으나, 정부의 결정이 잘못된 것이라고 밝혔다.
앤트로픽에 따르면, 이 지시는 금요일 오후 5시 21분(미국 동부 시간)에 전달되었으며, 회사는 원래 수출 통제 명령의 대상이었던 외국인뿐만 아니라 전 세계 모든 사용자에 대해 두 모델의 사용을 차단해야 했다. 앤트로픽의 다른 모델들은 이번 조치의 영향을 받지 않는다.
이 문제가 중요한 이유는 무엇일까요? ‘Mythos’는 앤트로픽의 가장 강력한 AI로, 4월 초에 미리 공개된 바 있으며 소프트웨어 보안 취약점을 식별하는 탁월한 능력으로 인해 엄격한 제한 하에 관리되어 왔습니다. 앤트로픽에 따르면, ‘마이토스’는 테스트된 모든 주요 운영 체제와 웹 브라우저에서 결함을 발견했다. 이에 따라 회사는 광범위한 공개 대신, 아마존, 애플, 구글, 마이크로소프트, 크라우드스트라이크 등 약 50개의 사전 심사된 기관에 사이버 보안 방어 목적으로 접근 권한을 제한적으로 부여하는 ‘프로젝트 글래스윙(Project Glasswing)’을 시작했다.
불과 3일 전에 출시된 ‘Fable 5’는 사이버 보안 및 생물학 등 고위험 분야에서 응답을 차단하는 안전 장치가 적용된 ‘Mythos’ 버전을 제공함으로써 상업적 압박에 대응하고 있다. Anthropic은 이를 통해 일반 사용에도 안전하다고 주장하며, AI 성능을 추적하는 Vals AI의 벤치마크 테스트 결과, 이 모델이 현재 가장 뛰어난 성능을 가진 공개 AI 모델임이 확인되었다.

이미지 출처:Vals AI /
정부가 이를 외국인의 접근을 제한하는 수출 통제 조치로 규정하는 반면, 앤트로픽은 상세한 블로그 게시물을 통해 실제 문제는 ‘Fable 5의 탈옥(jailbreak)’ 주장에 있다고 반박한다. 이 회사는 정부가 “잠재적이며 제한적이고 보편적이지 않은 탈옥”에 대한 구두 증거만을 제시했을 뿐이라고 밝혔는데, 이는 모델에게 특정 코드베이스를 분석해 소프트웨어 결함을 찾아내도록 프롬프트를 주는 것을 의미합니다. Anthropic은 이러한 기능이 OpenAI의 GPT-5.5와 같은 다른 공개 모델에서도 이미 널리 이용 가능하며, 사이버 보안 전문가들이 방어 목적으로 일상적으로 사용하고 있다고 지적합니다.
앤트로픽의 핵심 주장은 자사의 가장 강력한 안전 장치가 모델 자체와는 별개의 독립적인 분류기 시스템에 의존한다는 점이다. 이는 사용자가 거부 조치를 우회하더라도 위험한 출력에 대한 근본적인 보호 장치는 여전히 활성화된 상태로 유지된다는 것을 의미한다.
이러한 안전장치에도 불구하고 정부는 조치를 강행했으며, 앤트로픽은 이에 대한 불만을 공개적으로 표명했다. “수백만 명에게 배포된 상용 모델을 회수해야 할 근거로, 잠재적인 탈옥 가능성이 좁게 발견되었다는 점을 인정할 수 없다”고 회사는 밝혔다. “만약 이 기준이 업계 전반에 적용된다면, 모든 최첨단 모델 제공업체의 신규 모델 배포가 사실상 중단될 것이라고 생각합니다.”
앤트로픽은 올해 기업공개(IPO)를 추진할 것으로 널리 예상되며, 경쟁사들에 비해 안전성을 중시하는 대안 기업으로 자리매김하고 있다. 관측통들은 앤트로픽이 ‘마이토스(Mythos)’를 제한하는 데 보여준 신중함 — 대중에게 공개하기에는 너무 위험하다고 홍보했던 점 — 이 이제 오히려 자사의 사업을 방해할 수 있는 정부의 감시를 촉발했다는 아이러니를 지적한다.
오픈AI의 샘 알트먼은 이러한 상황을 즐기고 있는 듯하다. 지난 4월, 그는 팟캐스터 애슐리 밴스에게 앤트로픽의 ‘마이토스’ 대응 방식이 “공포에 기반한 마케팅”이라고 말했다. “‘우리가 폭탄을 만들었습니다. 여러분의 머리에 투하하려던 참이었습니다. 1억 달러에 방공호를 팔겠습니다’라고 말하는 건 분명 놀라운 마케팅 전략입니다”라고 알트먼은 말했다. 자사도 조만간 기업공개(IPO)를 계획 중인 알트먼은 정부의 운영 중단까지는 예상하지 않았지만, 앤트로픽 전략의 한 가지 결과를 지적했다. 즉, 수개월에 걸쳐 자사의 AI가 유례없이 위험하다고 경고함으로써, 앤트로픽은 미국 정부가 이를 주목하도록 만들었다는 것이다.
OpenAI가 ChatGPT의 새로운 기본 모델로 GPT-5.5 Instant를 출시합니다
OpenAI는 월요일 GPT-5.5 Instant을 출시하여 기본 ChatGPT 모델을 GPT-5.3 Instant에서 대체했습니다. 이 회사는 이번 업데이트가 법률, 의료, 금융과 같은 고위험 분야에서 환각 현상을 최소화하면서도 이전 버전의 빠른 응답 시간을 유지한다고 밝혔습니다.지난달 코딩 및 지식 작업 분야의 개선을 강조한 광범위한 GPT-5.5 시리즈 출시 이후, OpenAI는 이제 이러한 개선 사항을 인스턴트 모델에 통합했습니다.성
사서들, 빅테크에 지친 사람들을 위한 'AI 피하기' 워크숍 열풍
“저의 도서관 프로그램에서는 모든 사람이 화면에 고정되어 있습니다,”라고 필라델피아 남부 지역 도서관 사서인 찰리 베이는 농담조로 말했다. 그는 청중에게 휴대폰을 꺼내도록 초대하여 애플 인텔리전스와 제미니를 비활성화하는 방법을 안내했다.베이아는 어린이 도서관 교실에 서 있으며, M은 ‘달(moon)’이고 Z는 ‘얼룩말(zebra)’을 의미한다는 것을 상기시켜주는 다채로운 카펫에 고정되어 있다. 하지만 방 안의 20대 성인들은 알파벳 수업을 듣기
Adobe, 포토샵용 AI 어시스턴트 공개
아도비는 화요일 포토샵용 AI 어시스턴트가 웹과 모바일 앱에서 베타 버전으로 사용 가능해졌다고 발표했습니다. 또한 이 회사는 미디어 생성 및 편집을 위한 도구인 파이어플라이에 새로운 AI 기반 이미지 편집 기능을 추가하고 있습니다.이 크리에이티브 도구 회사는 지난 10월 MAX 행사에서 포토샵용 AI 어시스턴트를 처음 발표했습니다. 이제 사용자에게 롤아웃되고 있는 이 기능은 이미지를 통해 객체나 사람을 제거하거나, 색상을 변경하거나, 명암을 조





집






